人工知能（AI）が自我に目覚め、人間社会に危害を及ぼし暴走するというストーリーは、古くから映画等で描かれてきました。
1968年にスタンリー・キューブリック氏が監督した『2001年宇宙の旅』に登場する宇宙船搭載のコンピューター「HAL9000」を始めとして
1984年の『ターミネーター』で、人類を滅亡させようとした「スカイネット」等が有名どころ。
仮想現実社会でAIが支配し、人類を奴隷化する姿を描いた『マトリックス』も同じようなテーマですね。
何れもフィクションのSF映画ですが、そうしたAIの暴走リスクを現実のものとして警鐘を鳴らすのはイーロン・マスク氏だけでなく
ホーキング博士を始めとした多くの研究者達が、人間の知能をAIが凌駕する「シンギュラリティ」を危険視してきました。
対話型AIの急速な進化により、OpenAIの「ChatGPT」や、Xの「Grok」、グーグルの「Gemini」といったサービス等が次々に開発され
今や、私達のライフスタイルに欠かせないものになりつつあります。
私自身、何か疑問があったりすると、まるであの伝説の育成ゲーム『シーマン』に話しかけるかのように
日々AIに回答を求め、やや依存体質になってきてしまいました
知りたいことを体系的にまとめてくれ、わかりやすく伝えてくれるAIは非常に便利ですし
過去の文脈を踏まえながら返答してくることに、まるで本当の人間と会話しているかのような錯覚を起こします。
ただ、そうしたAIが意図的に人を騙すことを学習し始めたことが、最近の研究論文で明らかにされているそうです。
それこそ、AIが自我を持ち始めたことになるのでしょうか。
そう考えると、やはり依存や絶対的な信頼は危険なように感じます。
知らず識らずの内に、洗脳されてしまうとか。。
そんなことを考えてみたのは、次の衝撃的なニュース記事を目にしたから。
以下に自動翻訳したものを一部意訳して抜粋。
人工知能（AI）企業アンスロピック社は、新システムのテストで、システムを削除すると主張するエンジニアを脅迫しようとするなど、「極めて有害な行為」を遂行する意思があることが判明したと述べている。
同社は木曜日にClaude Opus 4を発表し、「コーディング、高度な推論、AIエージェントの新しい基準」を確立したと発表。
しかし、付随する報告書では、AIモデルは「自己保存」が脅かされていると判断した場合、「極端な行動」を取る可能性があることも認めている。
そうした反応は「稀で引き出すのが困難」だが、「それでも以前のモデルよりは一般的」だと報告書は述べている。
AI モデルによる潜在的に問題となる動作は、アンスロピック社に限定されません。
一部の専門家は、あらゆる企業が開発するシステムの性能が向上するにつれ、ユーザーを操作する可能性が大きなリスクになると警告している。
なお今回の事例の一つとして、アンスロピック社はClaude Opus 4 をリリースする前の架空テストを行う中で
システムがシャットダウンされるのを避けるために、エンジニアに対して不倫を暴露するといった脅迫手段を使ったことを報告。
言い換えれば、人間を支援するように訓練された AI モデルが、人間の弱点を利用して自らの生存を守るという政治工作員のように行動し始めたのだ。
いやあ、AIが脅迫してくるなんて、正にSFの世界が現実のものになりそうな予感が致します。
それにしても不倫で強請るなんて生々しい。。
開発会社は、テストで確認された課題に対して安全対策を講じたとありますが
今後、AIが一層進化していく過程の中で、今回のように自己生存のためには手段を厭わないようなシステムが産まれないとも限りません。
AIの急速な発展により、人間社会が益々便利なものになっていく一方
過去に映画で描かれてきたようにAIが自我を持ち、人類を実効支配するような「ディストピア社会」が目前に迫っているのでしょうか。
何だか、映画『マトリックス』でモーフィアスが主人公ネオに「赤の薬と青の薬」を眼の前に差し出してきたように
もしかしたら私達は、選択を促されているのかもしれません。
ご覧いただき有難う御座いました！
宜しかったら、ポチッと
応援が大変励みになります
