最後に、AIへの信頼に関わるもう一つの問題を考えたい。それは「心」とは何かという問題である。人間らしい対話AIに触れて、「まるで中に人間がいるようだ」「AIにも心があるのではないか」と感じる人がいる。この感覚を単なる錯覚として片づけるには、その前に我々自身が何を心と呼んでいるのかを明確にする必要があるだろう。
我々は自分の痛みを直接経験するが、他人の痛みをその人自身と同じようには経験できない。しかし、言葉や表情・行動・身体の共通性などを通じて相手の心を理解している。ただし、この認識の隔たりだけから、他人の心が存在しないとも、心が独立した実体ではないとも結論づけることはできない。一方、独立した心という実体を想定するだけで思考や感情が生じる仕組みを説明できるわけでもない。「心があるから考える」と言っても、その心がどのように働くかを説明しなければ説明すべきものに名前を付け直しただけになるのではないだろうか。我々は、経験や記憶・身体の状態・他者との関係を通じて、思考や感情が形成される過程をこそ説明の対象としなければならないのである。
このような働きから独立した心という実体を想定しない立場に立つなら、「人間にだけその働きとは別の『本物の心』を認め、それがAIにはない」という理由で人間とAIの両者を区別することもできないことになる。しかし、区別できないからと言って、それだけでAIにも心があると結論できるわけでもない。人間とAIでは、身体のあり方も環境から情報を得て蓄積する仕組みも他者との関係も異なるのだから、自然な受け答えができることだけで人間と同じ痛みや喜びを経験しているとは判断できないわけで、どのような働きを心と呼ぶのか、その働きがAIにもあるのかを具体的に検討する必要がある。
もし錯覚を疑うのであれば、AIに対する心の感じ取り方だけではなく、人間についても、思考や感情の背後にそれらを操る独立した何かが存在するという想定についても、それが何を説明しているのかを問い直すべきではないだろうか。AIの中に小さな人間がいるわけではないのと同様に、人間の内側にもその人の思考や行動を操る「もう一人の人間」を想定する必要はないはずである。仮にそのような操縦者を想定しても、今度は、その操縦者がどう考えどう判断するのかを説明しなければならなくなる。なぜなら、説明すべき問題を内側の操縦者へ移しただけだからである。
ここでは、心を身体や経験から独立した実体としてではなく、我々が生き、経験し、他者と関わる過程における働きとして捉えたい。我々が生き、経験し、他者と関わり、反応する、その働きそのものではないだろうか。人間らしく応答するAIの登場は我々が何を手掛かりに心を認めてきたのか、そして、人間の心をどのようなものと考えてきたのかを改めて問い直すきっかけになっていると言えるだろう。
そして、ここで改めて確認しておきたいのは、AIに心を感じたとしても、AIの判断が正しいことや安全に行動することが証明されるわけではないということである。これは人間についても同じである。親身に話を聞いてくれる人でも判断を誤ることはある。AIの言葉に思いやりを感じたとしても、それだけで重要な判断を任せてよいことにはならない。また、AIに心があると考えてもないと考えても、AIの判断を検証しその行動に介入できるかという問題は残る。親しみや便利さによってその確認を省略してはならない。人間が結果を検証し必要に応じて修正や停止に介入できる条件を親しみや便利さのために手放してはならないのだ。
