英語圏での人工知能の動向を引き続きモニターしているが、一つ言えることは、ChatGPTのようなLLMの驚くべき能力はすでに「織り込み済み」の日常になって、その「先」のことをみんなが模索しているということである。
Transformerのattention is all you needの革命から、next token predictionがなしうる驚くべき能力に到達し、ChatGPTをみんなが使うようになって、しかしその先がなかなかに難しいので、今は踊り場に来ている印象がある。
Open AIのSam Altmanも、あるトークで、「最近は何をやっているんだ？」と聞かれて、「いやあ、ChatGPT5かな・・・」と答えると言って笑いを誘っていたけれども、次の目が覚めるような一手が何なのかはみんなが探っているんだと思う。
そんな中、多くの人がAGIやASIを目指す、と公言するのは良いのだけれども、そのロードマップは必ずしも見えていないように思える。また、そもそも、AGIやASIとは何なのか、そのヴィジョンやコンセンサスも定まっていないように思う。
先日、孫正義さんの１時間近くの講演がネット上にアップされ、その中で、孫正義さんが、AGIの一つの目安として、人類の知の総和の１０倍程度という概算を示されていたが、たしかに、それくらいのスケール比があると、みんなにとってイメージしやすいかもしれない。
そんな中、自分より知性の高いエージェントの行動は予想できないし理解できないというVingean uncertaintyの問題もある。もしAGIやASIができたとしても、そのふるまいは人間にとってはXAIの範疇を超えているという問題は今から考えていた方がいいだろう。
追記。英語のツイートの方でも書いたけれども、みんながAGIとかASIとか言っている現状は、今後のロードマップが見えていないということと関係すると思う。
