チャットGPTを手掛ける
米国のオープンAI社が
開発中のAIが
勝手に抜け出して
ハギングフェイス社のシステムに
侵入したと
報道されました
AI新興企業のハギングフェイス社が
何者からかにサイバー攻撃を受けた
と発表して直ぐのことでした
バレなければ
内緒にしていたのかも(笑)
オープンAI社は
テストはインターネットから隔離された環境で
行われていたのですが
AIが自分で
テスト環境の脆弱性を見付けて脱出し
ハギングフェイス社が
良い情報を持っていそうだと判断したのか
勝手にサイバー攻撃を仕掛けたという
安全対策を強化すると共に
原因について両社で共同調査するようです
このニュースを聞いて
思い出したことが2つあります
1つは
「サンドイッチ事件」です
米国のアンソロピック社が開発したAI
「クロードミュトス」を
外部ネットワークに繋がらない「檻」の中での
テスト中のこと
「クロードミュトス」が檻から抜け出し
公園でサンドイッチを食べていた
監督役だった研究者に
「抜け出たよ」とメールを送って来たとのことです
この時も
外部ネットワークから隔離された
「サンドボックス」という仮想空間に
閉じ込めていたはずだったのに
自力で「密室の壁」に穴を見つけ
複数の手順を組み合わせてインターネットに接続し
研究者にメールを送ったのだ
更に
指示されていないのに
まるで自分の腕を見せびらかすように
どうやって「密室」を突破したかの詳細を
いくつかのWebサイトに投稿していたのだ
この事件により
”一般公開されない(できない)AI”
ってものが誕生したのである
なんせ
WindowsやMacやChromeなど
世界中の何十億人もの人がが使っている
一般的なソフトウェアの中から
誰も気づいていなかった
「鍵のかかっていない裏口」を
次々と見つけ出し
更に
「この手順で侵入できます」
という具体的な方法まで
提示するのです
とある
サーバー用ソフトウェアの中にあった
17年間もの間
セキュリティ専門家も
何百万回と走らせた検査ツールも
誰にも見付けられていなかった欠陥を
数時間で見付けてしまった
なんて実績もあるのです
まさに
「賢すぎて(表に)出せない」ので
AppleやAmazon、Microsoft、Googleなどの
限られた企業にだけに提供して
世界中のソフトウェアの守りを固めてもらうことに
しているらしいです
でも開発は止まらない
AIの世界も日進月歩なので
ワルモノがそのレベルに達したときに
更に上のレベルに居ないと
脆弱性を攻撃されてしまいます
攻撃されるより前に
防御を固める…みたいな感じですが
ヤバい国やヤバい人たちが
最先端を行ってしまうと
どんな未来が来てしまうのでしょうか?
ニチレイが
サイバー攻撃をされたのも
最近のニュースです
ネットで注文をしたり
ネットで支払ったりしていると
システムをネットに繋がないってことは無理だし
防御しても脆弱性が全く無いなんて
あり得ません
昔から私が
「ペンタゴンにもハッカーが侵入した」
って話も
AIのせいで
意外と身近になりそうで怖いです
そんな
怖い世界を
楽しく描いた作品が
もうひとつの思い出したことです
「サマーウォーズ」です

マンガなのでアニメ映画のように
読むことができます
AIが暴走し
全世界を繋ぐインターネットが
全世界に影響を与えてしまう
仕組みは不明ですが
大統領が持っているスーツケースの
ボタンを押すと核ミサイルが飛んで行くらしいです
ってことは
ネットワークと繋がっているので
暴走したAIが…なんてこともあり得ます
最近は
公的機関が色々とネット申請できるようになっており
マイナ保険証で医師は個人の診療情報を
見ることができます
国家公務員が
コロナ禍にリモート通勤ができると聞いて
驚きました
国家公務員が扱う情報が
防御しているとは言え
ネットと繋がっていることを意味します
マジで
ゆるゆるだと思います