あの「AI 2027」の続編となる「AI 2040」が出た。(前回のブログ:「AI 2027を読んで色々と思ったこと」)
最近のAIの盛り上がりに著者らが懸念を感じたからなのか,いずれにしても興味深いタイミングでのリリースである。
この非公式日本語訳だが,どうも自動翻訳をそのままかましただけのような印象で,表現が変な箇所がいくつかあった。そのため,前回と同様に原文を読み込みつつ,原文がわかりにくかったところを翻訳ツールで訳文を見て補完していくスタイルで読み進めた。
どういった内容かについては冒頭を読んでもらうのが一番早いが,
"Plan A is primarily a recommendation, not a prediction."
とあるように,今回は「prediction(予測)」ではなく「recommendation(推奨事項)」だという点が重要である。どうやら,現在のAI開発の現状に強い危機感を抱いた著者らが,危機回避のために出した提言ということらしい。
しかも,その内容というのが,
"Plan A is implemented successfully, albeit imperfectly and only in the nick of time."
とされている。つまり,不完全ながらもなんとかギリギリで破滅を回避できた,というレベルの話なのだ。言い換えれば,このまま何もしなければさらに最悪の未来が待っていると,著者らは考えているわけだ。
あと,「AI 2027」のときと比べてタイムラインがズレている点も見逃せない。以前は転換点(recursive self-improvement:再帰的自己改善の実現,要するにAIがAIだけで改善する流れの開始)となるのが2027年とされていたが,今回は3年後の2030年に後ろ倒しになっている。これは現状を踏まえてのことと思われる。実際に2027年の話としては達成していないが,確実に近づきつつあるという趣旨の記述がある。
さて,具体的な内容だが,タイムラインは2027年から始まっており,2029年に大きな選択を迫られることになる。冒頭にある通り,著者の推奨は「Plan A」だが,ほかにもいくつかの選択肢(プラン)が用意されている。
- Plan S: Shut it all down(全面停止)
- Plan A: Verified Slowdown(検証された減速)
- Plan B: Fight China(中国との対立)
- Plan C: Burn the Lead(リードの消失)
- Plan D: Race to ASI(ASIへの競争)
基本的には,現在の勢いのままASI(人工超知能)が誕生してしまい,人間の制御を離れて暴走するのをいかに防ぐか,という点がテーマだ。一旦立ち止まるのがPlan Sで,減速を試みるのがPlan A,残りのプランは「AI 2027」で予測されていたような破滅や競争のシナリオに至るものだ。Plan Bは分岐前,Plan CはSlowdown ending(減速の結末),Plan DはRace ending(競争の結末)に位置づけられている。
なお,タイトルの「AI 2040」はおそらくメインのPlan Aの内容の終点から来ている。他のシナリオは2030年くらいでシナリオとしては止まっているのだ。
読んでみた率直な印象としては,かなり「Plan A」へのバイアスがかかっているなというもの。
たとえばPlan SとPlan Aの違いは,開発を「停止」するか「減速」するかだが,中国が協定を破るというリスクはどちらも同じはずである。それなのに,シナリオでは「停止の協定は破られる(正確にはその懸念が強く出ている)が,減速の協定は最後まで守られる」という都合のいい展開になっているのだ。
そもそも,Plan Aの前提となっている「米中協調」のシナリオ自体がちょっと胡応臭い。米国大統領から習近平(なぜか役職の『中国国家主席』ではなくby name)に対し,問題への対応で足並みを揃えるよう要請し,揉めはするが結局は合意する,という流れだ。現実の国際政治を見ていると,そう簡単にいくとは思えない。
果たして,どこまでこのシナリオに沿っていくのか,また,分岐のどれを人類(主に米中だが)は選択するのか。
もっとも,現状ではAIバブル崩壊,人間回帰などからのAIへの失望など,AI投資自体の先行き不透明感もあるので,市場の冷え込みによって自動的に「停止」となるのかもしれないが。
そして,ASIは次の「第五次AIブーム」までお預け,このシナリオもその時まで塩漬けとなる可能性もかなりあるのではないだろうか。