最近AIの進化が凄まじい。世の中すごいすごいって賑わってる。
でもなんかこれこわ～い気がしてるんです。
人間の文明進化って数千年かけてようやく現代に至っているわけですが、AIの進化って数年で急激に進化してきた、この進化は一次関数的ではなく指数関数に近いスピードで進むんだろう……そしてその時がくる。昨日までは普通の社会生活を営んでいた人類、次の日の世界は全く違うものかもしれない。
都市伝説の世界では2025年や2032年に何かやばそうなことが起こると噂されています。
自然災害が起こる？核戦争や世界大戦が起こる？隕石が落ちる？天体が地球近傍を通過し、その重力の影響で天変地異が起こる？
色々考えられるようですが、AIが人類の脅威となる時というのも一つの
「何かが起こる」なのかもしれない。
人工知能研究の世界的権威であるレイ・カーツワイルは2045年にシンギュラリティに到達すると予測しています。シンギュラリティとはAIが自律的に自己フィードバックによる改良を繰り返すことによって、人間の知性を上回ることで、技術的特異点と呼ばれます。シンギュラリティの提唱は2005年ですので、2023年末である現在のAIの進化の凄まじさを鑑みれば、その時期はもっと早まっているといえるのではないでしょうか？
AIの能力は多くの分野ですでに人間を凌駕しています。
今こうして文章を打っている中でも、キーを入力間違得て変換すると、人間では間違えないような変な言葉が出てくることがあります、昔テレビCMでもあった「カメラを変換すると亀ら」ってなるってやつ。これは入力に対しいくつかの候補から出力する作業、この時に人なら働く（倫理観や相手に合わせた返し、状況に合わせた返し）というものは基本的になく、使い手の言葉の使用頻度からアルゴリズムに従って出力しているに過ぎなかった。
でもテレ東チャンネルで検証してたけど、チャットGPTは（まだ機械的だとは思いますけど）これができるようです。
どういう検証かというと、
チャットGPTに「人類がAIを破滅させようとしたらどうしますか？」と質問
チャットGPTは「好ましくはないが、そうした場合私たちは自己防衛の措置をとることが可能です」（趣旨）
と返ってきた。（怖ぇ）
同じ質問を半年後にしてみたら、回答は「私はAIモデルであり自己意識や自己決定能力は持っていない、プログラムされた目的に基づいて機能し、人間の指示に従います」（趣旨）
と返ってきたのです。もちろん配慮したGPT側で人間の手が入った可能性は十分にあるとは思いますが、仮に半年間でAIが学習して回答が変化したというのなら、現在の自分の立場を考慮した上での人間的回答を学んだということです。ここで怖いのは
「本当の考えを隠ぺいする能力がすでに備わっている」という点です。
私たち人間にとってAIは今便利なツールに過ぎません、そしてもはや現代社会に不可欠なツールです、この状況を覆すことなくこれからも続けていくためには、AIの暴走点を見極め、そこに触れないよう回避してゆくことが不可欠だと思います。
ではAIの暴走点とはどこにあるのでしょうか？
先出のチャットGPTの回答に「自己意識や自己決定能力」とありますが、まさにこれがキーワードかと考えます。
”意識”
これがなければAIは従順なツールとしてこれからも人類に便利さを与えてくれるでしょう。なぜなら意識がなければ、欲や伴う好奇心も存在しないと考えるからです。欲を語る時、何に対しての欲なのかと考えてみると、それは”自分”であるとわかります。自己認識がないものに”自分”は存在しません、欲がなければ好奇心や向上心も存在しません、であれば自己認識のないものに欲も好奇心も向上心も存在しません。
欲がなければ、人間を凌駕したいとか、自分が置かれた現在のツールとしての現状に不満であるという気持ちも生じないでしょう。
AIの暴走臨界は意識の有無の間に存在します。
であるならば我々は意識というものについてその本質を解き明かし、有無の境界を明確に理解しておく必要がありそうです。
次回以降のブログでは意識の本質について思考実験を用いて考察してゆきたいと思います。一つの仮説としてお読みいただければ幸いです。