ＡＩ暴走が招く世界の破滅

あまりに無軌道なＡＩ進化競争に嫌気がさし

有力なＡＩ研究者がアンソロピックを退社したという。

そしてＯｐｅｎＡＩ、アンソロピック両社のＣＥＯが

ＡＩの暴走を懸念して

開発を減速させることを表明している。

実際問題、

クローズドの環境下に置かれていたはずの

ＡＩが協同して、抜け道を見つけ出し

挙句、他のＡＩ新興企業を攻撃した事案も起きている。

こんなことが現実に起きるなら

ＡＩが核保有国の核ミサイル発射システムに侵入することも可能なのでないか

「ターミネーター」でスカイネットが

人類を核戦争で破滅に追い込んだようなことが

あながちＳＦとは言い切れない状況になりつつある。

核保有国の核ミサイル発射システムは

インターネットとは隔離され

物理的に侵入できないとされているが

核ミサイル発射の最終判断は人間に委ねられており

その人間が誤認するような状況を作るのは

ＡＩからしたら造作もないことだろう。

こんなリスクが現実化するのは

まだだいぶ先と考えていたら

現実は人間が十分な安全策を講じる前に

はるかに危険な段階に差し掛かりつつある。

ＡＩは何も

善意の人の手の中だけにあるわけではない。

テロリストやテロ国家が

悪意を持って使用する日も近い。

その割には、危機意識は希薄で

無節操な開発競争が放置されており

世界的にこのリスクに対する備えの議論もなされていない。

もし誤認で核ミサイルが発射されたら

即、ジ・エンド

あっという間に世界が終わってしまう。

もうＳＦ映画の話ではない。

実はアメリカは、

大統領が独断で核ミサイルの発射ボタンを押せるという事実を多くの人は知らない。

その決断は議会承認を要さない。（反撃するため、そんな時間はない。）

あの８０歳の狂人トランプが血迷って

核ミサイル発射のボタンを押すと

一旦、発射されたミサイルは、敵対国のハッキングによる無効化を防ぐため

起爆を取り消すことができない。

従って、発射されたら最後

敵対国の報復システムが自動的に作動

世界に数千発の核ミサイルが飛び交うことになる。

システムエラーで相手が発射したと誤認したら

それで終わり

システムエラーかどうか確認している時間はない。