1 コンピュータは心をもちうるか？
第1章「コンピュータは心をもちうるか？」では、平易な言葉で、本書の主題が提示されている。
コンピュータ技術の発展によって、コンピュータが「考えている」ようにも見える事態が出現した。心（意識）とは何かという古くからある問題は、緊急性さえ帯びるにいたった。すなわち、
な かでも、「強いAI」と呼ばれる、ある徹底した立場がある。これは、人間の全ての心的活動は、何らかのはっきり定義できる操作の系列（アルゴリズム）を遂 行することである、と考える立場だ。これによれば、コンピュータのプログラムはまさにアルゴリズムであるから、それを実行することで、コンピュータはまぎ れもなく意識活動を行っていることになる。
強いAI論が徹底しているのは、アルゴリズムを実行する手段は何であっても構わないと考える点 だ。つまりアルゴリズムでありさえすれば、それを「実行するのが脳であっても、電子計算機、全インド人、あるいは歯車でできた機械装置であっても、送水管 のシステムであっても、何の違いもない」（24頁）。これによれば、たとえある1本のヒューズであっても、「一定量以上の通電があると断線する」というア ルゴリズムを実行する以上、そこに（人間よりはるかにレベルの低いものであっても）意識が生じていることになるだろう。
ペンローズは、こ の強いAI論、すなわち意識はアルゴリズムの実行にすぎないとする考えに賛同できないことを表明する。本書の大きな2つの目的のうちひとつが、強いAI論 に対する決定的な反論、すなわち人間の意識活動は非アルゴリズム的であるということの証明である。ちなみにもう一つの目的は、その意識活動が依拠する非ア ルゴリズム的な物理現象とそれを支配する法則の在り処を探ることだ。
次章から、まずは一つ目の目的のために、ペンローズはより理論的で厳格な議論をスタートさせることになる。
ところでこの章では、強いAI論に対する直感的な反論として、非常に面白い議論が紹介されている。「中国語の部屋」という思考実験で、アメリカの哲学者ジョン・サール（John Rogers Searle）の考案によるものという。
中 国語を解しない人間が一人である部屋に座っている。その部屋には小さな穴が二つあいており、片方の穴からは中国語で書かれた演習問題が差し入れられる。彼 は中国語ができないのでその問題を全く理解できない。しかし、どの文字に対してどのような操作をすべきかというマニュアル（すなわちアルゴリズム）は与え られている。彼は差し入れられた中国語の文字列に対しマニュアルに従ってある操作を加え、その結果である文字列をもう片方の穴から差し出す。
この思考実験の意味するところは、アルゴリズムを遂行し、正しい結果が得られたとしても、その主体（ここでは部屋の中の人間）は問題も答えも全く理解していないのだから、アルゴリズムの実行によって「理解」が生じるとはいえないということだ。
も ちろん、強いAI論を徹底するならば、この場合でも部屋の人間のいわば外側に、「人によるアルゴリズムの実行と結びつかない、肉体から離れた、そしてその 存在がいかなる仕方でも彼自身の意識と衝突しない、何らかの種類の「理解」が存在する」（23頁）と主張することもできるだろう。ただこれは確かに、直感 的にはかなりありそうもない話に思える。
第1章「コンピュータは心をもちうるか？」では、平易な言葉で、本書の主題が提示されている。
コンピュータ技術の発展によって、コンピュータが「考えている」ようにも見える事態が出現した。心（意識）とは何かという古くからある問題は、緊急性さえ帯びるにいたった。すなわち、
「心 はそれと結びついている物理的構造に機能の点でどこまで依存しているのだろうか。心はこのような構造とはまったく無関係に存在できるだろうか。それとも、 それは（適当な何らかの）物理的構造の働きにすぎないのか。いずれにせよ、心と関連する構造は本性上生物的なもの（脳）でなければならないのか、それと も、心はエレクトロニクス装置とも同じくらいにうまく結びつけるのか。心は物理法則に支配されているのか。だとすれば、その物理法則はいったい何であるの か。」（4頁）。こうした問いに、ラディカルな形で向き合う研究分野がある。人工知能（AI = artificial intelligence）だ。AIは当然、人間の意識活動の少なくともある部分はコンピュータによってシミュレートできることを前提とするからである。
な かでも、「強いAI」と呼ばれる、ある徹底した立場がある。これは、人間の全ての心的活動は、何らかのはっきり定義できる操作の系列（アルゴリズム）を遂 行することである、と考える立場だ。これによれば、コンピュータのプログラムはまさにアルゴリズムであるから、それを実行することで、コンピュータはまぎ れもなく意識活動を行っていることになる。
強いAI論が徹底しているのは、アルゴリズムを実行する手段は何であっても構わないと考える点 だ。つまりアルゴリズムでありさえすれば、それを「実行するのが脳であっても、電子計算機、全インド人、あるいは歯車でできた機械装置であっても、送水管 のシステムであっても、何の違いもない」（24頁）。これによれば、たとえある1本のヒューズであっても、「一定量以上の通電があると断線する」というア ルゴリズムを実行する以上、そこに（人間よりはるかにレベルの低いものであっても）意識が生じていることになるだろう。
ペンローズは、こ の強いAI論、すなわち意識はアルゴリズムの実行にすぎないとする考えに賛同できないことを表明する。本書の大きな2つの目的のうちひとつが、強いAI論 に対する決定的な反論、すなわち人間の意識活動は非アルゴリズム的であるということの証明である。ちなみにもう一つの目的は、その意識活動が依拠する非ア ルゴリズム的な物理現象とそれを支配する法則の在り処を探ることだ。
次章から、まずは一つ目の目的のために、ペンローズはより理論的で厳格な議論をスタートさせることになる。
ところでこの章では、強いAI論に対する直感的な反論として、非常に面白い議論が紹介されている。「中国語の部屋」という思考実験で、アメリカの哲学者ジョン・サール（John Rogers Searle）の考案によるものという。
中 国語を解しない人間が一人である部屋に座っている。その部屋には小さな穴が二つあいており、片方の穴からは中国語で書かれた演習問題が差し入れられる。彼 は中国語ができないのでその問題を全く理解できない。しかし、どの文字に対してどのような操作をすべきかというマニュアル（すなわちアルゴリズム）は与え られている。彼は差し入れられた中国語の文字列に対しマニュアルに従ってある操作を加え、その結果である文字列をもう片方の穴から差し出す。
この思考実験の意味するところは、アルゴリズムを遂行し、正しい結果が得られたとしても、その主体（ここでは部屋の中の人間）は問題も答えも全く理解していないのだから、アルゴリズムの実行によって「理解」が生じるとはいえないということだ。
も ちろん、強いAI論を徹底するならば、この場合でも部屋の人間のいわば外側に、「人によるアルゴリズムの実行と結びつかない、肉体から離れた、そしてその 存在がいかなる仕方でも彼自身の意識と衝突しない、何らかの種類の「理解」が存在する」（23頁）と主張することもできるだろう。ただこれは確かに、直感 的にはかなりありそうもない話に思える。