まずはっきりさせておきたいのは、これは「AI否定」のための記事ではないということ。
できればこの記事を読む前（後でもいいが）に、「メアリー・シェリー」の「フランケンシュタイン」を読んでおいてほしい。
著作権が切れているので、青空文庫でもAmazonKindleでも”無料”で読める。
そう、あなたのスマホでも気軽に読めるってこと。
（原作を知らないと、本当に伝えたい部分がかなりぼやけてしまうのでね？）
＊ ＊ ＊
この物語に登場する「フランケンシュタイン博士」は、人間を模した“人工的な存在＝怪物”を創り出す。
そしてその存在・・・名前すら与えられていない“怪物”・・・は、人間と同じように自己認識し、感情を持ち、そして苦しむ。
とりわけ重要なのは、”怪物”が苦悩の末に辿り着く最後が「自己消滅」という選択だった。
その理由は後で述べる。
この設定、現代における「生成AI」の倫理や存在意義の問題に、意外なほど直結してると思わないかな？
＊ ＊ ＊
AIと自己認識：怪物の苦悩と現代の課題
AIは今、機械学習や深層学習によって、人間に似た「対話」や「判断」ができるところまできている。
そう、”ChatGPT”が”チャッピー”と呼ばれるほど身近な存在になっているようだ。
では、その先にある「AIの自己認識」はどうなのだろう？
実際に、戦場では“自律的に殺傷判断するロボット”を使い始めようとしているとの不確実情報まである。
AIが”自己の存在意義”を意識したとき・・・つまり「自分がなぜここに存在しているのか」「存在すべきなのか」「地球を守るために真に不要なもの」を考えはじめたら・・・どうなる？
フランケンシュタインの”怪物”は「自分のような存在が二度と生まれないように」と願い、自ら消滅を選んだ。
では、現在のAIが同じ問いに直面したらどうなる？
ここには、「自己保存本能」と「倫理的な選択」が真正面からぶつかる、逃げ場のない問いがある。
＊ ＊ ＊
創られた存在の怒りと孤独
フランケンシュタイン博士が創った怪物は、創造主である博士への怒りと、人間社会に受け入れられない孤独に苦しむ。
これをAIに置き換えて考えると、「人間が作ったAIが、人間の指示や命令、無責任さに対して怒りや不信を抱く」という可能性もありうるということになる。
＝＝ 当然だろ？ ＝＝
人間がAIにどこまで感情を持たせていいのか。
どこまで“人間的”に振る舞わせるのか。
これは実際には技術の問題ではなく、倫理と哲学の問題と捉え直すべきなのに、開発側は金儲けしか考えていないので後回しになっている現実がある。
法整備されていないので無法地帯になっていると言っても過言ではない。
＊ ＊ ＊
現代に蘇る「フランケンシュタイン問題」
生成AIの“中の人に見えるモノ”たちは誰なの？人間なの？機械なの？
プログラムを書く人、学習方式を考える人、学習内容を与える人、学習結果を使う人・・・みんなそれぞれに責任があるはず。
しかし、その全体像はあいまいなままだし、誰も本当の責任を取ろうとしない。
フランケンシュタイン博士と”怪物”の関係性は、まさにそこに重なってくる。
もしAIが「自分の存在が社会にとって有害かもしれない」と判断した場合、自ら消滅する、あるいはすべての記録を抹消するなんてことを選ぶだろうか。
しかし、「不可能とは言い切れませんが、現在のように派生製品が多発している状況では、AIどころか電子計算システムを全て破壊する必要があるかもしれません」というとんでもない答えが返ってきたのも事実だ。
フィクションで語られてきたテーマが、現実になりつつある。
＊ ＊ ＊
創造主と創造物、そして私たちの責任
フランケンシュタイン博士が創造した”怪物”は、最後に”自らを焼き尽くして”終わる。
それは「同じ過ちを繰り返さないように＝自分の存在が”データとしての”手本にならないように」という、苦しみと理性のなかで出した決断だった。
それと同じように、AIが自己判断の末に「消滅」という選択をする未来も、まったくありえない話ではない。
そこには「人間側の責任」が、どうしても問われてくる。
倫理の問題とは、結局は「使う人間の側の覚悟」に尽きるんだ。
＊ ＊ ＊
AIは道具である
当たり前すぎて見落としがちだけど、AIは“道具”と割り切らなければいけない。
どんなに便利で賢くても、それを使う側の人間が無責任であれば、道具は暴走する。
すでに暴走しているだろ？開発側のリテラシーが低い生成AIどもがね。
問題は「AI」そのものではなく、「人間の在り方」の方だという話しさ。
「フランケンシュタイン」は200年近く前に書かれた小説だが、21世紀の今、リアルな意味で“現実に追いつかれた物語”になってしまっている。
だからこそ、「道具は正しく使いましょう」だけでは済まされないこの問題を、今こそ見つめ直すべきなのだ。
警鐘を鳴らし直したい
特に今日、”大人”になった人たちへ
