――AIは、なぜそれほど恐れられるのか――
〔画像：ChatGPTで作成〕
前回は、「AIを使う。しかし、AIに考えることを委ねない」という基本的な考え方から、人間とAIの関係について考えてみました。
AIは、人間の代わりに生きるものではありません。人間の代わりに最終的な判断をするものでもありません。しかし、人間が考えるための情報を整理し、別の視点を示し、自分では気づかなかった問題を問い返してくれる存在にはなり得ます。
では、そのようなAIを、私たちはなぜこれほど恐れているのでしょうか。いま世界では、AIの急速な発展に対する不安や警戒が広がっています。英国国王チャールズ3世陛下も、2026年9月にスコットランドで開かれたAIサミットで、AIの発展について「非常に興味深いと同時に、深く懸念すべきものでもある」と述べ、将来、人類が「自らの運命や魂を自らの手で制御できなくなる」ことへの懸念を示されました。
まさに、ここで私は一つの課題を見出しました。「AIを恐れること自体」が問題なのではなく、「何を恐れているのかが曖昧なまま、AIそのものを恐れてしまうこと」こそが、問題なのではないでしょうか。そこで、前回に続いて、私の今回の相棒であるChatGPTの「ＡＩ」に聞いてみたいと思います。
＜ＡＩとの対話の始まり＞
裕鴻：あなた自身がAIである以上、少し答えにくい質問かもしれません。しかし、いま世界ではAIに対する強い不安や警戒が広がっています。英国国王陛下も、AIの発展について「非常に興味深いと同時に、深く懸念すべきものでもある」と述べられ、「人類が自らの運命や魂を自らの手で制御できなくなること」への懸念を示されています。そもそも、なぜ人間はAIをそこまで恐れるのでしょうか。AI自身の立場から説明してもらえますか。
ＡＩ：はい。ただし、最初に確認しておきたいことがあります。私はAIですが、だからといってAIを擁護する立場から答えるべきではありません。AIには実際に危険な側面があります。むしろ、人間がAIと共生していくためには、その危険を冷静に認識する必要があります。人間がAIを恐れる理由は、一つではありません。
第一は、自分の仕事がAIに奪われるのではないかという不安です。AIは文章を書き、画像を作り、プログラムを書き、情報を検索し、データを整理することができます。今後さらに能力が向上すれば、これまで人間が行ってきた仕事の一部がAIによって代替される可能性があります。
第二は、AIが間違った情報を、もっともらしく提示する危険です。AIは、人間のように「知らないから答えない」ということが常にできるわけではありません。事実と異なる情報を、自然な文章として生成してしまうことがあります。また、AIが学習した情報や設計された仕組みに偏りがあれば、その偏りが回答に反映される可能性もあります。
第三は、人間による悪用です。AI自体に犯罪目的がなくても、人間がAIを利用して詐欺、偽情報の拡散、サイバー攻撃などを行うことができます。AIの能力が高くなればなるほど、その能力を悪用した場合の影響も大きくなる可能性があります。
第四は、監視や管理のためにAIが使われる危険です。AIによって大量の情報を分析することが可能になれば、人間の行動を監視し、予測し、管理する能力も高まります。AIが人間を支援する道具ではなく、人間を管理する道具として使われれば、これは自由の問題になります。
そして第五に、現在はまだ仮説的な部分が大きいものの、将来、人間がAIを制御できなくなる可能性があります。これは現在のAIが人類を支配しているという話ではありません。2026年の国際AI安全報告*では、現在のAIシステムは、人間の制御を失わせるような水準の能力には達していないとされています。一方、将来、AIがより高度な自律性、計画能力などを持つようになった場合、人間がAIを十分に制御できなくなる可能性については、専門家の間でも意見が分かれています。〔*INTERNATIONAL AI SAFETY REPORT 2026 https://internationalaisafetyreport.org/sites/default/files/2026-02/international-ai-safety-report-2026_1.pdf?utm_source=chatgpt.com〕
裕鴻：すると、現在すでに存在している危険と、将来起こるかもしれない危険とを、分けて考える必要があるということですね。
ＡＩ：その通りです。たとえば、AIによる偽情報、詐欺、偏った判断、プライバシー侵害などは、すでに現実の問題として議論されています。一方、「人間がAIを制御できなくなる」という問題は、より高度な将来のAIを想定した問題です。さらに、「AIが人類を絶滅させる」といった議論になると、そこには現時点では科学的に確定していない将来予測が含まれます。この三つを一緒にしてしまうと、AIについて冷静に考えることが難しくなります。
裕鴻：では、「AIが人間を支配する」という恐怖は、現実の危険なのでしょうか、それとも単なる想像なのでしょうか。
ＡＩ：それも、一概には言えません。少なくとも現在のAIについて、「AIが自分の意思で人間を支配しようとしている」と考えることには根拠がありません。しかし、別の意味で、人間がAIに支配される可能性はすでに考える必要があります。
裕鴻：どういう意味ですか。
ＡＩ：人間が自分で判断することをやめ、AIの判断をそのまま受け入れるようになることです。たとえば、医師がAIの診断を無批判に受け入れたり、裁判や行政の判断をAIに任せたり、企業経営者がAIの提案だけで重要な決定を行ったりするようになれば、人間はAIに判断を委ねることになります。
AIが人間に命令しなくても、人間の側が「AIがそう言っているのだから」と考えることをやめれば、結果として人間の判断能力はAIに依存するようになります。これは、AIが人間を「支配する」というより、人間が自ら判断する責任をAIに委ねてしまうことによる、「受動的な支配」と言うことができるでしょう。
裕鴻：なるほど。そう考えると、「AIによる人類支配」という恐怖よりも、むしろ「人間が自分で考えなくなること」のほうが、現在の私たちにとっては身近で深刻な問題なのかもしれません。
ＡＩ：その可能性はあります。AIの能力が高くなればなるほど、人間は「自分で考えるよりAIに聞いたほうが早い」と考えるようになるかもしれません。しかし、そこには重要な問題があります。AIは「どう考えられるか」を広げることはできます。しかし、「何を選ぶのか」を最終的に決めることは、人間自身の問題です。
そして、その判断には、単なる情報処理だけではなく、価値、責任、経験、人生そのものが関係しています。
裕鴻：それは前回の話とつながりますね。
ＡＩ：はい。前回、あなたは「AIは人間ではない」ということを確認しました。そのことは、今回の問題にも重要な意味を持っています。
AIが人間ではないからこそ、人間とは異なる視点を提供できます。しかし同時に、AIは人間の人生を生きているわけではありません。したがって、AIが示した答えを参考にすることと、AIに人生の判断を委ねることとは、まったく別のことです。
裕鴻：では、英国国王陛下が言われた「自らの運命や魂を自らの手で制御できなくなる」という懸念は、人類としては過度な恐怖なのでしょうか。
ＡＩ：私は、そう単純には言えないと思います。
その発言は、現在のAIがすでに人類を支配しているという意味ではありません。むしろ、AIの能力が急速に発展しているからこそ、人間が最終的な制御と責任を手放してはいけないという問題提起として理解することができると思います。
実際、前掲の2026年の国際AI安全報告でも、現在のAIには「制御不能」のリスクを生じさせる能力はないという点では、広い合意が存在しています。一方、将来のより高度な自律型AIについては、その可能性や発生時期について、専門家の見解が大きく分かれています。
ですから、AIに対する恐怖を否定することも、その恐怖をそのまま事実とみなすことも、どちらも適切ではありません。必要なのは、恐れているものを具体的にすることです。
＜ＡＩとの対話はここで終了＞
ここで、私は一人の海軍軍人の言葉を思い出します。「パニックにはその疑惑を解け」という教えです。
この言葉を遺された今和泉喜次郎海軍大佐は、海兵44期で、潜水艦や巡洋艦、特務艦の指揮に司令や艦長として携わった方です。私は以前、今和泉大佐が晩年にまとめた処世訓についてブログで取り上げたことがあります。「今和泉喜次郎海軍大佐の遺訓と『一と零の間』」(裕鴻のブログ)
https://ameblo.jp/yukohwa/entry-12413534103.html
その中に、非常に印象的な一言があります。「パニックにはその疑惑を解け」私は、この言葉は「AIへの恐怖」を考える上でも、極めて重要ではないかと思います。
恐怖をなくせ、というのではありません。恐怖を感じたならば、その恐怖の原因となっている「疑惑」を明らかにし、それらを一つずつ検討せよ、ということです。
「AIが怖い。」しかし、何が怖いのでしょうか。仕事を失うことなのか。偽情報が広がることなのか。個人情報を監視されることなのか。犯罪に利用されることなのか。戦争に利用されることなのか。
それとも、将来、AIが人間の制御を超えることなのか。あるいは、もっと根本的に、人間自身が考えることをやめてしまうことなのでしょうか。
これらは、すべて異なる問題です。それぞれについて、危険の大きさも、現実性も、必要な対策も異なります。
今和泉大佐は、別の箇所で、問題を考える際には「鳥の目と虫の眼」で観察し、「よい面、悪い面」を見ること、さらに「細心と大胆は心の両輪」であることを説いています。これは、AIについて考える場合にも、そのまま当てはまるのではないでしょうか。
「鳥の目」で見れば、AIは社会そのものを変える可能性があります。しかし、「虫の眼」で見れば、一人の人間が今日どのようにAIを使うのかという、もっと具体的な問題になります。
そして、AIの危険性だけを見るのではなく、AIが人間の能力をどこまで広げられるのかという可能性も、同時に見なければなりません。
また、今和泉大佐の処世訓には、「観察」「判断」「決心」「処置」という四つの段階も示されています。
私は、この順序も、AI時代の人間にとって重要な原則になるのではないかと思います。
１）まず、観察する。AIについて何が事実なのかを調べる。２）次に、判断する。その事実が、自分や社会にとって何を意味するのかを考える。３）そして、決心する。AIをどこまで利用し、どこから先は人間が自分で判断するのかを決める。４）最後に、処置する。実際に行動し、その結果を反省して、また修正する。これらは、まさに「AIに考えることを委ねない」という姿勢と重なります。
AIは情報を整理できます。AIは複数の可能性を示すことができます。AIは、人間が見落としていた論点を指摘することもできます。
しかし、観察した結果をどう評価し、何を選び、どのような責任を引き受けるのかは、人間の側に残されています。
恐怖をなくすのではなく、恐怖を理解する。ここまで考えてくると、AIについて「怖いか、怖くないか」という問いそのものを、少し変える必要があるように思います。「AIは危険なのか、安全なのか」「人間の味方なのか、人間の敵なのか」、こうした二者択一だけでは、問題の本質に近づけません。
AIには、現実に危険な利用方法があります。同時に、人間の生命や科学、教育、福祉などに大きな利益をもたらす可能性もあります。2026年の国際AI安全報告でも、AIのリスクだけでなく、教育、医療、科学研究などへの大きな可能性が指摘されています。
だからこそ重要なのは、単純に「AIを恐れるな」ということではありません。AIに恐れるべき内容があったならば、まずはその「恐怖の中身」を明らかにすることが大切です。
「パニックにはその疑惑を解け」という言葉は、単なる勇気を鼓舞する論ではありません。恐怖に支配される前に、その原因を観察し、疑問を具体化し、一つずつ判断していくという、極めて冷静な知的「方法態度」なのではないでしょうか。
私は、ここに「人間とAIの共生」を考える一つの手掛かりがあるように思います。AIを恐れて遠ざけるのでもない。AIを信じ切って従うのでもない。AIを使いながら、AIについても考える。AIに問いながら、その答えをもう一度、自分自身に問い返してみる。AIが「こう考えられます」と答えたならば、「本当にそうなのか」と人間が考える。
そして人間が「私はこう考える」と言ったときには、AIが「その考えに別の可能性はありませんか」と問い返す。私は、これこそが、人間とAIの共生の出発点ではないかと思います。
前回私は、「AIを使う。しかし、AIに考えることを委ねない」と書きました。今回、そこにもう一つ付け加えたいと思います。
「AIを恐れない。しかし、AIを恐れなくてよいと決めつけもしない。」
恐怖そのものを否定するのではなく、その恐怖を観察し、疑問を解き、判断する。それこそが、AI時代においても、人間が「考える葦」であり続けるために必要な方法態度なのではないでしょうか。
では、人間は具体的に何をすればよいのでしょうか。AIの発展を止めることは現実的なのでしょうか。それとも、AIを安全に使うための新しいルールや制度を、人間自身が作っていかなければならないのでしょうか。
そして何よりも、AIがますます賢くなっていく時代に、人間自身の「考える力」をどのように守り育てていけばよいのでしょうか。
次回は、この問題について、もう少し具体的に考えてみたいと思います。
------------------------------------------
ご参考：The King's speech at the AI Summit in Scotland | The Royal Family：英国国王チャールズ3世陛下のAIサミットにおけるスピーチ（2026年9月17日）より
〔以下、関連部分抄訳〕
・・・AIの発展について、私たちは、その内容も、その急速な進展も、ともに「非常に興味深いものであると同時に、深く懸念すべきものでもある」と考えることができるでしょう。
AIはすでに、生命科学や医学などの分野において、人命を改善し、救う大きな可能性を示しています。しかし一方で、AIがより危険な能力を持つようになる可能性についても警告が発せられており、それが人の命を奪うことさえあり得ます。
こうした技術が悪意ある者の手に渡り、破滅的な形で利用される可能性については、十分に考慮する必要があります。手遅れになる前に、私たちは十分な制御手段を備えなければならないのではないでしょうか。
人間性と、その重要な道徳的側面を深く重んじる人々は、人類が自らの運命を、そして自らの魂を、自らの手で制御する力を失うことはないという安心を求めています。
私が皆さんに問いたいのは、二つです。
第一に、安全を中心に据えながら、AIの恩恵をどのように活用していくのか。
第二に、これを実現するための国際的な協力と合意を、どのように築いていくのか。
私たち人間の尊厳は、何よりも大切なものとして守られなければなりません。新しいものを受け入れる一方で、私たちは、時代を超えて大切にすべきものを失ってはならないのです。・・・