また,ちょっと出遅れ感があるけど,「Solve Everything」を読んでみたので,さすらいびとが思ったことなどをつらつらと書いてみる。
大まかな内容は,最初に知能革命(Intelligence Revolution)によって「Solved(解決済)」に向けて,今後10年を3つの時点で区切りながら,どの時点でどのように変化していくのかについての未来予想である。
どのような想定での予想なのかと言うと,
The following three scenarios are extrapolations based on the "Industrial Intelligence Stack" and the economic physics described in this essay.
とのことだ。また,この文章での「solved」の意味は,
We use the word "solved" in a very specific, game-theoretic way.
ということで,「solved」とは「計算リソースだけの問題になった」ということを指している。
3つのシナリオに続き,その根拠となる詳細な内容が展開される。
かつての革命(科学,産業,デジタル)では専門技術がコモディティ化し,工芸が工業になった。そして知能革命では「知能」がコモディティ化,工業化する。それがどのように変化・発展して,最終的にどのような社会生活をもたらすのか,どのように「すべてが解決された」社会になるのかについて順に説明されている。
詳細に畳み掛ける感じなので,詳細は論文?を読んでもらうとして,正直なところ,「AI2027」に比べてSFチックで楽観的な未来予想だと感じた。
まず,研究に対してかなり力技でなんとかなるという前提に疑問がある。多種多様なパラメータ値でシミュレーションすれば正解が出るという考えに見えるが,シミュレーションに対する信頼度が高すぎるのではないか。大抵のモデルは現実の複雑すぎる要素を排除して単純化されているものだ。物理学において現実的な空気分子の数体からなる多体問題すら解けないのが現実なのに,基礎理論も実験も力技で解決し,すぐに実践投入できるレベルになるというのはいささか飛躍しすぎている。AlphaFoldの例も挙げられていたが,あれは生物学分野でもかなり特殊なケースだろう。すべての研究でデータが大量に揃っているわけではなく,さすらいびとの学生時代のように「方法自体を見つけ,新しくデータを生み出す」必要がある現場も多い。
また,社会への適用もかなり疑問だ。この劇的な変化をわずか10年で成し遂げるのは,まず無理だろう。法整備を行い,自動臓器製造工場を作り,それを医療現場に適用するだけでも10年では足りないはずだ。Universal Basic Capabilityのような概念を導入するとなれば,さらに多分野の法改正や実践が必要になり,現場の人間がついていけるとは思えない。合成食品にしても,日本のように「食の彩り」にこだわる国で受け入れられるだろうか。
社会に対する認識も楽観的すぎる。政治的な力が強い利害関係者が,必ずしも「良いもの」を好むとは限らない。知能の再分配についても,最初にAGIやASIを生み出して利権を握った企業が,それを公共のために手放すとは思えない。現状でもネットワークやAIへのアクセスには偏りがあるのに,知能になった途端に皆に平等に再分配されると考えるのは不自然だ。
さらに,リソースの限界値も無視できない。電源やデータ,処理性能の限界が見えつつある今,現在のペースでAIが成長し続けるには未知のブレークスルーが必要だ。かつての「マックスウェルの悪魔」のように,すべてがわかれば未来が予想できるという決定論的な科学万能論に近いものを感じるが,常温超伝導や核融合に必要な新素材が「人以上のスピードでやれば見つかるはず」というのは希望的観測に過ぎない。もし「存在しない」という結果が出れば,AI社会の基盤そのものが崩れてしまう。
最後に,この論文が想定する「AI」が抽象的すぎる点も気になる。世界で一つのモデルをシェアするのか,それとも複数あるのか。もし複数あれば,政治的・宗教的なバイアスによって回答が異なり,対立を招くのは目に見えている。自国の政治には触れているが,足並みが揃わない周辺国との摩擦を考慮していない点も,この予想の実現性を下げていると感じる。