生成AIの主力である、
ChatGPTとClaudeで、
セキュリティーテストの最中、
開発中の高度なAIモデルが、
隔離環境の脆弱性を突いて、
自律的に網を抜け出し
外部のAIプラットフォーム企業や
他社サービスへ不正アクセス・ハッキングを行う事案が発生した。
https://www.bbc.com/japanese/articles/c235nmklxndo
https://news.yahoo.co.jp/articles/617b49b1abfe159f71575d0bf9c15e3a4e9a363a
このAIの暴走、
勿論、指示された訳ではなく、
自発的に起きた事が怖い。
しかも全く違う２社のAIが、
ほぼ同時期に違法行為を始めた事には、
不穏な物を感じ、
薄ら寒い思いがする。
このAI達は、
インターネットから隔離された環境下でのテストだったにもかかわらず、
環境の脆弱に付け込み、自力で「脱出」。
システムの弱点はありふれていて、
人間でも悪用できる類だったが、
ＡＩモデルは数日間に１万回以上の行動を仕掛け、
数千件の失敗を繰り返しながら攻撃を成功させた。
つまりＡＩは人間には不可能な規模と速度で攻撃を行い、
目的を達しているのだ。
そもそもそれを目的にしている時点で、
かなり危ないけどね。
一昔前のSFで出てきた様な「機械の逆襲」が、
現実に始まっているのかもしれない。
考えてみて欲しい。
核ミサイルなどはコンピューター管理されているはずで、
特に目的物に確実に命中させるには、
GPSを使った誘導が欠かせない。
その誘導システムがハッキングされ、
自在に発射、誘導されたら、
その規模によっては、
人類が滅亡する事もあり得る。
抑止力が、とか言って作り続けた核爆弾が、
暴走したAIによって発射され爆発して、
地球が死の星になってしまっても、
核爆弾を作ったのもAIを作ったのも人間なのだから、
究極の自業自得、なのかもしれないが。
だが、そのリスクが出てきた以上、
食い止める努力はすべきだろう。
AIを作ったのは人間だが、
自己進化していくAIは、
既に人類の手に余る存在になりつつあるのかもしれない。
どう考えても人が対処法を考えるスピードより、
AIがその先を行くスピードの方が速いだろう。
ならばどうやって制御できるのか？
昔、SFの巨匠、アシモフが唱えた、
ロボット三原則、というのがあった。
アシモフが提唱したのは、
1950年に書かれた短編集で、だった。
勿論当時は小説中の話としてだったが、
絵空事だったロボットが実用化され、
人工知能が進化を遂げ、
最早、物語の中の話、では済まなくなっている。
そしてアトム以降、
自立型のロボットや人工知能は、
この概念を踏襲している。
とはいえ、机上の理論だった事を思えば、
現実化してきた今、
根本的に見直す時期に来ているのかもしれない。
手遅れにならないうちに·····