人工知能に感情移入するとハンパなく恐ろしい事態が起こる！ 哲学界の重鎮が「AIの未来」を本気で警告（今野杏南・対談）
2017.04.04
関連キーワード：
アンドロイド
,
インタビュー
,
フレーム問題
,
モーガン プロトタイプ L-9
,
ロボット
,
人工知能
,
,
哲学
,
対談
,
(C)2017 Twentieth Century Fox Home Entertainment LLC. All Rights Reserved.
黒崎 蓄積されたビッグデータの活用と、高度にネットワーク化されたシステムに人間が組み込まれてしまう可能性の方が十分にあり得るんじゃないかな。現在のAIは、統計データに基づいて情報を処理する能力を進化させている最中にあるわけだから。少し前、マイクロソフトのTayという人工知能が差別的な言葉をたくさん学んでしまって、暴言ばかり吐くようになったというニュースがあったけど、あれはAIが人間に敵意を持ったのではなく、何も考えずに、すべて統計的に処理されて出力されていたから起きたこと。同じくAIの脅威として、人間の仕事が奪われるという論調もあるけど、テクノロジーが発展する時は必ずそういうことがあるものだし、それで進歩は止まらない。だから問題は、最終的にそのシステムをコントロールするのが人間なのか、それともすべての人間がシステムにコントロールされてしまうのかという点だと思う。
黒崎政男 教授（写真＝河西遼）
今野 それでも、ペッパーくん（ソフトバンクの人型ロボット）のようなものが、どんどん社会に浸透してきていますよね。
黒崎 結局あれも、現在のところは情報を統計的に処理しているモノにすぎない。やっぱり人間型というのは親近感を抱きやすいから、あの形になるんだろうね。ただAIを考える上で、もう一つ見逃せない問題があって――。
今野 それはもしかして、心や感情という問題ですか？
黒崎 そう！ 実のところ人間は、相手が単に統計的に判断して受け答えしているものだとしても、コミュニケーションが成立する存在に対して、あたかも心があると感じてしまうんだよね。AI自身が考えたりしていないのに、いい反応を返してくると、心があるように思えてしまう。本当のところは、私たちが意味を投げ入れているにすぎないのだけれど。
今野 ちょっと待って下さい。その話を突き詰めていくと、実はこうやって人と話しているけど、相手が本当に人間かどうかは断言できないということになりますよね。もしかしたら人工生命体なのかもしれない！
今野杏南（写真＝河西遼）
黒崎 心は見えるものではいからね。でも、いま私が話している今野さんは、もちろん人工生命体などではないでしょう。となると、やはりAIと人間の決定的な違いとして、モノを超えた魂や自己意識のようなものがあるのか、という点が重要になってくる。そして、だけど、他者の魂や自己意識の存在は、外部からは決して直接には認識しえないというところが、キモだよね。
今野 そうか！ 心があるかどうかは客観的には調べられないから、結局は他の人がそれを認めるかどうかで判断されるわけですね。
黒崎 そうなってしまうんだよね。映画でも、モーガンについて研究者が「itではない。sheだ」と言い張るシーンがあったよね。作った人間にとっては愛着があり、コミュニケーションも取れるからsheなんだけど、特に思い入れがない部外者にとっては単なるitでしかない。