今更かもだけど，積読してあった「AI 2027」を読んでみた。
といっても，ところどころで自動翻訳かましてだけど。
あと，以下のブログも合わせて流し読み（公開日順）。
大まかな内容は，他社に数四半期先駆けている架空のAGI企業OpenBrain（まあ，OpenAIをイメージしたもので，人工知能（AI）から類推した脳（Brain）に置き換えただけ）のAI開発を中心に，米中など国家間の話を交えて（対抗する中国の仮想企業はDeepSeekとTencentを混ぜたDeepCentという，これまた安直なネーミング），AIの進化とそれを取り巻く社会情勢などについて予測したもの。
なお，
Our forecast from the current day through 2026 is substantially more grounded than what follows. This is partially because it’s nearer. But it’s also because the effects of AI on the world really start to compound in 2027.
とのことなので，2027年からは不確実性が増すよということらしいです。
要約などは先に上げたブログを見てもらうとして，個人的な感想や考察などをメインに。
段々とSFチックになっていくのは仕方ないかな。
米中AI競争が激しくなるってことだけど，今までのことから類推しているとはいえ，中国は米国の成果を盗む前提で進むというのはバイアスかかっている感じ。
果たして，「盗用」だけが，対中の懸念なのか。
今も同じかわからないけど，一時期，米国で優秀なのはアジア系（主に中国系）という話もあったはずだけど。
そもそも，人種や地域で頭脳の良し悪しの比率に大きな差がないなら，中国にはアメリカよりも多くの潜在的な天才がいるはずなんだけどね。
まあ，話を複雑にしないためっていうのもあるかもだけど。
他の国については，対露については盗めても利用までは行けない，英国（おそらく他の欧州国家も）は米国より遅れているって予測みたいだね。
AIが仕事を奪うのは以前から言われているネタだね。
逆に，新しい職の創造もあるっていうのも。
もっとも，新しい職が生まれても，必要とされる能力が異なるので置き換えられるものではないんだけど。
あと，米国と違って日本はどこまで効率でAI化が進むのかってのは感じた。
実際解雇のし易さの違いもあるし，損益分岐点の違いもある。
高学歴な日本は現場での権限を多少広げても仕事が回るから，置き換えが欧米に比べて遅れそうな気がする。
その点，欧州のクラス社会や米国の格差社会では，より低い位置にAI化への損益分岐点があると思われる。
これがIT化に続いてAI化においても日本は後塵を拝する事になりそうではある。
合成データを使った学習についても楽観的に感じる。
既に新しいデータがなくなりつつあるので，合成データでなんとかしようとする流れは確実。
でも，2027年から本格的に学習に使うようになると予測しているけど懐疑的。
質の良い合成データをどう作り出すかの問題があるし，そもそもAIの学習にとって良い合成データとはなにかという問題もある。
それに，どの分野もとなると1,2年では無理ではないかと思える。
アルゴリズムの進化は時期はともかく数年で起こりそうではある。
アルゴリズムの進化によって方向性が変わることもあるので，この辺はその後の予測を外す大きな要因になりそう。
Agent-3の改良は以下の結果をもたらすとのこと。
Either Agent-3 has learned to be more honest, or it’s gotten better at lying.
この段階になると，人間の嘘検知に近いレベルの検証が必要。
この研究が追いついていないと，その後のAIの検証が成り立たなくなるし，それによって予測もかなりズレてきそう。
このチェックは基本的には人間が行う必要があり，結局，人の処理スピードになっていうのもある。
問題は，軍事絡み，特に攻撃用途であれば気にしない可能性がある。
むしろ，人を徹底的に騙す学習をしたAIが生まれそうではある。
でもって，それがいつかは流出してオープンネットで動き始めるとか出てきそうな懸念はある。
これは核開発と同じ危険がある。
ゲーム理論のしたがって，敵国が作るかもしれないからと作ってしまい，作ったからと今度は試したいと思って必須でないのに機会を見つけて試し，更にそれが世界中に広がって，慌てて収拾しようと国際協定などを持ち出す事になりそう。
もっとも，核兵器と違ってAIは直接的な死をもたらさないから，安易にやばいAIを使って広める国が出そうという違いもある。
2027年10月のあとにSlowdownかRaceか（AI研究のブレーキを踏むか否か）で分岐。
どっちも，最終的には似た感じで協調に向かうので，破滅エンドはなし。
もっとも，独自のシナリオ分岐を歓迎とあるので，反論として出てくるのを歓迎しているみたい。
タイムスケジュールはどうだろうって感じがするけど，全体的な進化の流れは違和感はない。
ただ，社会情勢や政治的な流れは微妙な感じ。
AIに職を奪われること言うことでデモが起きる話があったが，後半はもっと抵抗が大きくなるし，それによって政局が引っ張られそうだけど，その辺があまりなくて，政府の方針が素直に施行されるような感じで，そのあたりがスケジュールに対する違和感になっているのかも。
あと，物理的なリソース問題がどこまでクリアできるのかが，かなり楽観的な気がする。
最後の宇宙開発云々とかも，昔からある「〇〇年には月面基地が・・・」みたいな未来予想っぽく感じた。
でもって，この手の予想は外れまくっているからなぁ。
かなり，詳細で具体的な未来予想で今後について多くの示唆があるので，将来に向けた一つの指針にはなるのではないかな。