「AIブームが世界を席巻する中、知の巨人が日本で警鐘を鳴らした。世界的ベストセラー『サピエンス全史』の著者ユヴァル・ノア・ハラリ氏が初来日し、加速するAI開発競争の真の危険性について語った。破滅的なのはAI技術そのものではなく、人間同士の「信頼の崩壊」だというのだ。

ハラリ氏は3月16日に慶應義塾大学、翌17日に東京大学で講演し、最新著書『NEXUS 情報の人類史』の内容に沿って、AI革命が持つ本質的危険性について論じた。

※この記事は慶應義塾大学三田キャンパスで学生向けに実施された伊藤公平塾長とハラリ氏の対談イベントの内容をベースにしています」

「ハラリ氏の警告の核心は、AIが他のすべての技術と根本的に異なる点にある。過去のあらゆる技術革新との決定的な違いは何か。それは、AIが単なる「道具」ではなく「エージェント（主体）」という点だ。

　「AIは道具ではなく、エージェント。これが人類が初めて創造したエージェントであり、道具ではない技術だ」とハラリ氏は強調する。

　「AIは自分自身で決定を下せる。AI兵器は人間に何をすべきか指示されなくても、自分で何を爆撃するか決定できる。さらにAIは新しい兵器や新しい軍事戦略を発明することさえできる」」

「ハラリ氏が最も懸念するのは、AI開発競争の根底にある「信頼の逆説」だ。OpenAI、マイクロソフト、テンセント、バイドゥなどの企業トップに、ハラリ氏が「なぜそんなに急いでいるのか」と尋ねると、彼らは口をそろえてこう答えるという。

　「巨大なリスクがあることは理解している。人類滅亡のリスクさえあると理解している。減速したいが、できない。われわれが減速して競合他社や他国が減速しなければ、彼らが勝利してしまうからだ。最も冷酷な人々が、この素晴らしい技術を持つことになる。他の人間を信頼できないため、より速く進まなければならない」」

「「人間同士の信頼については何千年もの経験があるが、超知能AIとの関係については経験が皆無だ。AIの目標や戦略についてまったく分からない。何百万もの超知能AIが互いに、そして何百万もの人間と相互作用するとどうなるのか、誰にも分からない」」

「AIがもたらす変化は、特定の分野ですでに進行している。ハラリ氏は特に金融市場、メディア、そして戦争の形態の変化に懸念を示した。」

「金融市場では、すでに人間の理解を超えたアルゴリズムが取引を支配しつつある。ハラリ氏は「これは自動取引システムの問題ではない。それは何十年も前から存在する。今起きているのは、誰も理解できないアルゴリズムが、金融システムを支配するようになることだ」との見方を示した。」

「ただ、近年はこの会話の輪に、「ボット」という形でAIが入り込み、人間のふりをしているというケースが散見される。「歴史上初めて、人間ではないのに人間を模倣できるものが登場した。数年前までは、オンラインで誰かと話せば数秒か数分で100%確実にそれが人間かどうか分かった。今はそうではない」とした。」

「最も顕著な変化は戦争の現場で起きている。多くの人がロボット兵士による殺戮を想像するが、実際には標的を選ぶ意思決定プロセスがAIによって変わりつつあるとハラリ氏は指摘する。

　「今何が起きているかというと、この建物を爆撃するという決定を下すのは誰かという問題だ。標的の特定は以前は人間の情報将校が行っていた。彼らは何日もかけて『この建物は敵の本部だから爆撃せよ』と言っていた。今はそれがAIによって数秒で行われる」

　AIがこのような判断を下す際、人間がそれをチェックする時間は非常に限られており、実質的にはAIが決定を下していることが多いという。「5年、10年先を見据えると、戦争における重要な決断をますますAIが下すようになることは明らかだ。これは非常に危険な発展である」とし、警鐘を鳴らす。」

「ハラリ氏は「あらゆる政府が取るべき最初の、最も単純な措置は、偽の人間、偽造人間を禁止する法律を制定することだ。偽のお金を禁止する法律があるのと同じように」と持論を展開。TikTokやX（旧Twitter）などのプラットフォームでは、すでに多くのボットが人間のふりをして活動していることを踏まえ「印刷所でお金を偽造すれば、印刷所のオーナーは刑務所行きだ。人間を偽造しようとする者も同じか、それ以上の扱いを受けるべきだ」と提言する。

　一方で「表現の自由」と「情報の自由」を明確に区別することが重要として「表現の自由は人間に与えられている。極端な状況を除いて、人間は罰せられる恐れなく意見を表明する権利を持つべきであり、これは保護されるべきだ」とした。」

「こうした規制措置と同時に、ハラリ氏が最も重視するのは人間同士の信頼関係の再構築である。「人間同士の信頼をどう構築するか。これが最も緊急の課題だ。世界で今起きているのは、最も必要とされる時に人間の信頼が崩壊していることだ」。ハラリ氏はこう述べた。」

日本で初めて講演したハラリ氏。

小松　仁

「『サピエンス全史』著者ハラリ氏、日本初講演で「AI革命の真の危機は“人間同士の不信”」と警鐘…