まずはざっくり用語の説明から。
・AGI（Artificial General Intelligence（人工汎用知能））
特定のタスクに特化したAIは「弱いAI」と呼ばれています。
一方、AGIは人間のように幅広いタスクに対応できる能力や柔軟性を持つものとされ、
その場合には「強いAI」と呼称されます。
市場予測や競争分析、新たなビジネスモデルの立案が可能になり、
より高度な意思決定をサポートすることが期待されています。
AGIは広義のAIのなかにあって、経験から学習する能力を持つ仕組みであるため、
新たな科学的な発見や技術に進歩をもたらす可能性もあります。
また、ASI（ Artificial Super intelligence（人工超知能））という、
AGIがさらに進化したものを指す言葉があります。
ASIは、人間の知能を超えたレベルの知能を持つ人工知能を指しており、
あらゆるタスクや問題において人間よりも優れた能力を持つことを意味します。
ASIは自己学習や自己進化を行い、知識や能力を飛躍的に向上させ、
人間には解決が困難または不可能な問題にも解決策を見つけ出すことができるとされています。
・Q*計画
「Q*（Qスター）」は、OpenAIが極秘に進めているプロジェクトの名称と言われており、
ロイター通信は、OpenAIが社員向けメッセージで「Ｑ＊（Ｑスター）」と呼ばれる
プロジェクトについての書簡があることを認めたようです。
※「オープンＡＩの研究者、アルトマン氏解任前にＡＩ巡りリスク指摘＝情報筋」2023年11月23日 ロイター通信
「Q*（Qスター）」は、
従来のAIには見られなかった高度な数学的推論能力を持ち、
単に情報を処理するだけでなく、その情報を基に論理的な結論を導き出すことができ、
より複雑で高度なタスクをこなすことが可能とされ、
Q*タイプのAIは複雑な推論や問題解決能力を有する可能性がある、とされます。
あくまで現段階では可能性ですが、OpenAIはAI技術において大きな一歩と考えていて、
高度な知能を持つAIへの道を開くかもしれないと期待しています。
OpenAIはAGIを、
経済的に価値のあるタスクの大半で人間を凌駕する自律型システムになるもの、
と定義している模様。
詳しくは触れませんが、「サム・アルトマンの解任事件」に関わっているという話もあります。
「Q*」の「Q」は、
一説には、Q学習から来ているらしい。強化学習の一種の機械学習方法で、
さまざまな状況におけるさまざまなアクションの品質 (Q 値) を評価し、
報酬またはペナルティの形でフィードバックを受け取ることによって学習していきます。
「Qラーニング」ともいわれ、新たな行動を繰り返し行って、
「その時点で価値を最大化できる行動」についてAIに学習をさせます。
こういった方法で獲得した、Q*が持つ推論能力は、
近々で懸念されるのは、現行のセキュリティシステムの解析や、
プライバシーに関わるデータの処理や、個人のスコアリングに使われる可能性があります。
明るい方向の利用では、人類が未解決である、科学、物理、医学的問題を解決する手段になるかもしれません。
人によって何の価値を最大化したいかはバラバラですから、
「様々な価値」が最大化される未来は、そうとう混沌としたものかもしれません。
それが私を苦しめるのか、楽しませるのか？
さて、大規模言語モデル (LLM)の延長線上のAGIからASIへの道筋は、
それほど楽観的な見通しではない、という意見もあります。
人間の日常的な状況に対処するためには、
ある程度、網羅的に常識的な推論の範囲を、LLMが学習しておく必要がありますが、
汎用性を増やそうと思うと、
大量の計算リソースや大規模な外部メモリの必要性によって、物理的な制約をうけます。
何でもかんでも出来るようにするには、
何でもかんでも出来るようなデータセットが必要だから当然です。
なので、「AGI」への初期の取り組み段階では、
まずは何に焦点を当てるべきかという目標が必要となります。
OpenAIが「経済的に価値のあるタスクの大半で人間を凌駕する自律型システム」
を目指しているという報道もあり、そのように焦点を絞ることは現実的で、
特定の分野においては思ったより早く実現する可能性があります。
個人的に思うのは、アルトマンはスタートアップ企業の立ち上げ会社が出自なので、
非常に現実的な方向性を目指すというのは、さもありなん、です。
とはいえ、今の段階で戦争も貧困も環境問題も解決できていない人間に、
ASIが与えられたら何が起こるのか。期待の前に心配が来るのは真っ当な帰結。
・第四次産業革命
その前の、第三次産業革命は、パーソナルコンピュータ、インターネット、
情報通信技術 (ICT)、といった技術が引き起こした産業革命を指します。
（ざっくりが過ぎますが・・・）
「第四次産業革命」は、2016年の世界経済フォーラムにおいて初めて使用されたらしい。
第三次に続くデジタルの革命を前提としており、
究極的には、次に上げるような技術が、社会構造内や人体の内部にすら埋め込まれるようになる道筋も、含んでいるようです
第四次産業革命におけるコアとなる技術は現在進行形の、
ロボット工学、人工知能 (AI) 、ブロックチェーン（仮想通貨）、
ナノテクノロジー、バイオテクノロジー（生物工学）、
量子コンピュータ、モノのインターネット (IoT) 、3Dプリンター、
自動運転車（スマートカー）、仮想現実（VR）、拡張現実（AR）、複合現実（MR）、
など、多岐に渡る分野においての新興の技術革新が前提となります。
第三次に続き、これら技術の革新が産業構造や社会のあり方を、大きく変えるのでは？
ということ。
最終的には、これにバイオテクノロジーやナノテクノロジーも用い、
ポスト・ヒューマンを生み出すことを可能にする。なんて話もあります。
「人類が次のステージに進む」ってことに関しては、第四次産業革命とは直接関係ないですが、
某国のゲノミクス研究所では、
IQの高い人の大量のDNAサンプルから知能に関わる遺伝子を同定しようとしているらしい。
同定できれば、遺伝子操作で生まれる知的スーパーヒューマンが出来るわけです。やべー。
さらに、すでに海外で使用されているらしいブレインドラッグなんかを投与したら、
「超知能集団組織」が出来るかもしれません。
あと、人間の脳組織を培養した「脳オルガノイド」をコンピューター・チップに接続して、
単純な計算タスクを実行することに成功した、なんて、やべー話もあります。
「Brainoware（ブレイノウェア）」というらしいです。
で、まあ、
人工知能 (AI)及び（AGI）は、第四次産業革命の要となる数ある技術の中でも、
まさに、シンギュラリティを超えたかもしれないぞっ、と目されていて、
この進化の進捗度合いや方向性によっては、
第四次産業革命が始まるよ、との話がでている、というわけです。
さて、ここから本題ですが、その前に
過去のAI考においても、
私はコンピュータが人類の知性を超えることに関しては、
全くその通りであり、別に道具なんだからいいのでは？と、思っています。
例えば、AIの将棋の指し手なんかを見てると、
従来のプロ棋士の感覚の、いわゆる「一目この一手」みたいなもの、
あえて言えば「人が陥りやすい先入観」とは異なる、
独特の指し手をAIがすることがありました。
「どうやって」AIがその手を導き出したのか？は人には理解できません。
しかし、その手が良かった理由は、指し進めればわかります。
それを上手に利用できた棋士が将棋タイトル八冠を達成するのです。
一方でよくないのでは？という懸念については、
超知能（ASI）のAIの出現に際して人類は、
ASIが引き起こす、およそ（起こりうる）あらゆる結果を想定せねばならないが、
ASI自らの目標遂行を阻もうとする人類の企てを、ASIがすべて頓挫させることも、
超知能がゆえに人類に対して行使できるため、
ASIが引き起こす制御も予期もされない結果が、今後人類に引き起こされる可能性があり、
それによって人類が壊滅的なダメージを負う。
という、懸念。
ん～、確かにそうなのかもしれませんが、
＞ASI自らの目標遂行を阻もうとする企てをすべて頓挫させる
方法は？
＞人類に対して行使できる
方法は？
これが、私には腑に落ちませんし、なにより、
＞ASI自らの目標遂行
これが一番わからない。
アホな研究者や間抜けな権力者が、ASIに相当アホ実装をしない限り、
「AIツールの使用者である本人」が意図しないような結果をAIが出力した時点で、
結果は破棄でしょ？
AIによる人間ハッキングの難しさの話は以前にしましたが、私は何か壮大な勘違いをしている？
あと、「ASI自らの目標遂行」って、これAIが意思持ってね？って、別の話もある。
＞いやいや、AGIはインターネットに繋がっているから、実装次第では全世界が大混乱するんですよ。
うん、混乱はするかもしれない。でも、破滅はしないと思います。
すでにサイバー戦争は起こっており、自国の防衛のために独自のネットワークを用意しようという話は、事情のある国は考えているはず。
まあ、個人レベルなら、最悪、ラズパイにカスタムOSを載せて、
無線通信とモデムと独自プロトコルでデータをやりとりする事も、原理的には可能。
＞生産や物流や経済が大混乱して、多くの国や地域で犠牲者がでる。
それもある。
でも、新型コロナや戦争で全世界は、生産や物流や経済が大混乱しましたし、今もしています。
結果、被害は甚大だが「人類」は破滅していない。
何も問題ないとは言っていない。
超知性は文字通り人知を超えたものであり、
それが故に、恐怖するのは当然ではあるが、
AIによって人類が一方的に壊滅的なダメージを負う前に、人類も何某かの対応ができるはず。
というのは、私の考えが楽観すぎるのだろうか。
警鐘を鳴らす閾値の規模の問題で、私の考えと食い違っているのかもしれない。
でも、今現在も、飢餓の問題だけでも数億人が困っているのが人類社会である。
そういう規模で心配しているなら、今現在既に人類は破滅状態ではないのか。
えっと、強火がすぎた。
とはいえ、こと、こういった突発的な社会システムの大混乱や、
社会構造の大転換でおこる諸問題について、
今のうちから想定できるものは、しておくに越したことはない。
しかし、私は良い方向に最大限利用されれば、
ASIやロボット技術の大躍進によって、
衣食住にまつわる人間の最低限の活動に必要な物資の生産がほぼ全部機械化できて、
生きていくだけなら、人類働かなくても良くね？
って未来も考えられると思っているのだが、怠惰すぎか？
個人的まとめ
人工知能について考えてみるにつけ、
人が「人が理解できない知性」をどう利用するのかにかかっている。
悪用に関してのルールを決めても進化は止められない。
これは国連が、例えば核開発問題について機能していないのをみれば明白だ。
とはいえ、ブラックボックスなものを無秩序に全世界で、
便利だからといって、安易に利用するのは避けたほうがいいだろう。
星新一の「おーいでてこーい」という先行論文がある。
一方また、人類は今に至るまで、制度に違いはあれど、
人による統治しか受け入れて来なかった歴史がある。
なので、ASIに「全人類」が屈服するとは思えない。
まあ、実は世の中を大きく動かす「地位が高くお金持ちの人ほど偏った考えを持ちやすい」
らしいとかいう話もあるので、そこは要注意ですが、
出来るだけ、巻き込まれないようにしましょう。
もう一個、「人知を超える知性＝意思を持つ」ということについては、
私は、そのプロセスが未だによくわからないので、懐疑的です。
これは、「一旦豁然（かつぜん）として貫通」する様には行かないと直感しています。
脳とコンピュータについては、まだまだ書きたいことがありまして、
ニューロンや神経接続に対応するものは有機物である必要はないのでは？とか、
現在の技術で脳のスキャンを行うとすると、2ペタバイト×1000万倍の資源が必要らしいとか、
1グラムのDNAが21万5000テラバイト以上のデータを保存できるとか、
虫の脳ってどんなプログラムが走っているの？とか、
オセロが弱解決されたとか、
まあ、今後もネタは尽きないのであります。
全く全然何とも関係はないけれど、AI考は年内にα版となりました。
来年はAIにとって、激動の年になるかもしれません。
May the force be with you.