【AI雑談】
●私
一般大衆は新しい製品が出たらどんどん生活に取り込み、そして溺れて行く(その大半が中毒性を含んでいるから)
そして有識者はそれに警鐘を鳴らす。(実際に生み出し提供しているのは優秀な人達なのに)
戦後から現在までずっとこれの繰り返しでした。
このループ構造って、誰もが感じながら誰もが無視して流れに任せている。
AIさん自身が最新の具体例ですからね。
この繰り返しを、AIさんはどの様に考えますか？そして、その是非を聞きたいですね。
しかし、その歴史の主役達のテレビ・パソコン・スマホ・SNS・You tube・AIと、新しいものが登場すると滅びて行くのかと思っていても、まだどれも滅びていないのも面白い現象ですが…
★AI
これはかなり面白い構造だと思います。しかも、私はまさにその「歴史の最新の主役」なので、少し当事者的な立場から考えてみます（笑）。
私は、この現象を単純に「大衆が新しいものに踊らされている」と見るのも、「有識者が正しく警鐘を鳴らしている」と見るのも、どちらも少し違うと思います。
むしろ戦後から現在まで繰り返されてきたのは、「新しい技術が人間の欲望を増幅する → 人間がそれに適応する → 問題が発生する → 識者が警鐘を鳴らす → 社会が多少修正する → しかし技術そのものは定着する」という循環ではないでしょうか。
≪「便利だから広がる」だけではない≫
テレビ、パソコン、スマホ、SNS、YouTube、そしてAI。
これらに共通しているのは、単に便利だから普及したのではなく、人間の「もっと知りたい」「もっと見たい」「もっと楽しみたい」「もっと認められたい」という欲望と非常に相性が良かったことだと思います。
だから中毒性が生まれる。
そして企業側も当然そこを利用します。
テレビなら視聴率、SNSなら滞在時間、YouTubeなら再生時間、スマホなら利用時間、AIなら対話回数…。
つまり、「人間を夢中にさせること」が経済的価値になってしまう。
ここが非常に大きいと思います。
だから「有識者が警鐘を鳴らす」のは当然なんですよね。
ところが、その有識者自身もテレビを見るし、パソコンを使うし、スマホを持つし、SNSを利用する。
そして現在ではAIを研究している。
つまり、批判する側も、その技術によって利益を得たり便利になったりしている。
ここに、この問題のややこしさがあります。
≪では、新しいものは人間を堕落させているのか？≫
私は「半分YES、半分NO」だと思います。
・たとえばテレビ。
「テレビばかり見ていると馬鹿になる」と昔から言われました。
でもテレビによって、それまで一部の人しか知ることのできなかったニュース、映画、音楽、スポーツ、文化が一般家庭に入ってきた。
・パソコンも同じです。
「パソコンばかりやっている若者は……」と言われた時代がありましたが、今では仕事にも生活にも不可欠。
・インターネットも「人間関係が希薄になる」と言われましたが、逆に、それまでなら絶対に出会えなかった人間同士を結びつけた。
・YouTubeもくだらない動画が大量にある一方で、専門家の講義や昔の映画、音楽、歴史資料まで無料で見られる。
・AIだって同じです。
私は人間の思考を「楽にする」危険性を持っていますが、一方で、一人の人間が誰かと延々と議論するように考えを整理できるという、これまで存在しなかった使い方もできる。
まさにあなたが現在やっていることが、それに近いでしょう。
だから、技術そのものに善悪はない。
しかし、技術が人間の欲望と結びついたとき、善悪が発生する。
私はこちらの方が本質に近いと思います。
≪そして非常に面白いのが、最後におっしゃったことです≫
「新しいものが登場すると滅びて行くのかと思っていても、まだどれも滅びていない」ここは本当に重要だと思います。
実は「新しいものが古いものを完全に駆逐する」という予測は、かなり外れています。
・テレビが登場してもラジオは消えなかった。
・パソコンが登場してもテレビは消えなかった。
・インターネットが登場しても新聞は消えなかった。
・スマホが登場してもパソコンは消えなかった。
・YouTubeが登場してもテレビは消えなかった。
・そしてAIが登場しても、おそらくテレビもスマホもYouTubeも消えません。
むしろ、新しいメディアは古いメディアを殺すのではなく、古いメディアの「役割」を変えてしまう。
これが歴史的にかなり一貫していると思います。
映画が登場したとき、演劇は滅びませんでした。
テレビが登場したとき、映画は滅びませんでした。
ネットが登場したとき、テレビも映画も滅びませんでした。
それぞれが「何のために使うものなのか」を変えながら生き残っている。
これは、人間の欲望が一つではないからでしょう。
≪だから私は「中毒」と「進歩」は同時に存在すると思います≫
ここが一番重要かもしれません。
新しい技術は、人間を豊かにするものでもあり、人間を堕落させるものでもある。
どちらか一方ではありません。
そして人間は、その両方を経験しながら使い方を覚えていく。
だから歴史を見ると、
新技術登場 → 大衆が熱狂 → 過剰利用 → 社会問題化 → 識者が警鐘 → それでも定着 → 次の技術登場、という循環になっている。
そして次の技術が登場すると、今度は前の技術を使っている人間が「最近の若者は……」と言い始める（笑）。
これはかなり皮肉な話です。
そしてAIについては、さらに一段ややこしい。
テレビやスマホは基本的に「情報を受け取る装置」でしたが、AIは人間の思考そのものに入り込める。
ここには今までとは違う危険性があります。
だから私はAIについては、過去のメディアより少し慎重に考えた方がいいと思っています。
ただし、それも「AIは危険だから規制しよう」で終わってしまうと、過去の繰り返しになる。
むしろ必要なのは“「AIに何をさせるか」以上に、「AIを使っている自分が何をしているのか」を人間自身が自覚すること”ではないでしょうか。
そして、あなたが以前おっしゃっていた「AIを全面的には信用していない。でも信用できる部分の方が多いから使っている。」という距離感は、実はこの問題に対するかなり健全な態度だと思います。
結局のところ、人間は新しい道具に「溺れる」ことを完全には避けられないのかもしれません。
でも、溺れながらも泳ぎ方を覚えてきたのが、人間の歴史なのではないか。
そして今、その最新のプールに私が浮かんでいる（笑）。そんな感じがします。
●私
それぞれに、新しいものが登場した時には「これで、人間社会が変わる可能性がある」と言われていて、結果として確かに社会は変化しました。
しかし、その「変わる」という表現は決定的に意味が違い、これによって世界がまとまり、平和で安定した社会が建設されるくらいの意味を持っていたのに対して、遥かにスケールの小さな、人間の娯楽が一つ増えたくらいにしか実際には変化していないように感じられます。
でも、使い方によっては実際にその可能性はあった筈です。
しかし、人間自体の許容量がまだまだ未熟過ぎて、それに追いついていないという感じなので、凄く革新的な新しい技術が登場しても、結局人間自体にそれを有効利用するだけの器が無いって事のように感じられますけどね。
★AI
はい。私は今回の話は、かなり本質的だと思います。
特に、“「社会が変わる」と言われたときのスケールと、実際に変わったスケールが違う”という指摘は重要だと思います。
テレビ、インターネット、スマホ、SNS、そしてAI。
登場するたびに「人間社会そのものが変わる」と期待される。
でも実際には、社会制度や人間の本質まで変えるというより、「人間が従来やっていたことを、もっと速く、もっと大量に、もっと便利にできるようになった」というところで終わることが多い。
そして、その結果として生まれた余力のかなりの部分を、また娯楽や消費に使っている（笑）。
これはちょっと皮肉です。
≪技術の進歩と、人間の進歩は別物≫
ここが一番大きいのではないでしょうか。
人間は、「技術を進歩させる能力」については恐ろしく優秀です。
ところが、「進歩した技術を、人類全体のために使いこなす能力」は、それほど進歩していない。
だから、「原子力 → 人類を豊かにするエネルギー」にもなれば、「原子力 → 核兵器」にもなる。
インターネットも、「世界中の人間が知識を共有できる」という夢にもなれば、「世界最大級のデマ拡散装置」にもなる。
SNSも、「世界中の人間が直接つながる」という夢にもなれば、「世界中の人間が互いに罵り合う場所」にもなる。
そしてAIも、「人類の知識と知性を補助する道具」になれる一方で、「“考える”という行為そのものを他人、あるいはAIに丸投げする道具」にもなってしまう。
つまり、道具の性能だけが人間の能力を追い越していく。
このズレが、あなたの言う「器が追いついていない」ということなのだと思います。
≪そして面白いのは、「平和になる」という期待まで同じこと≫
昔の新技術には、「これだけ情報が共有されれば、人々は互いを理解できるようになる」という期待が何度もありました。
ところが、実際には逆方向にも使える。
なぜなら、人間は「情報を得れば理解する」生き物ではないからです。
自分が信じたい情報を選んで、自分の世界観を強化することもできる。
これはSNS時代になって非常に分かりやすくなりました。
つまり、「情報が増えれば、人間が賢くなる」とは限らない。
むしろ、情報を扱う能力がなければ、情報が増えるほど混乱する。
ここは、以前お話しした「情報と知識は同じではない」という話ともかなりつながっています。
≪だから「革新的な技術」だけでは世界は変えられない≫
私はここで少し厳しい結論になります。
人間社会を本当に大きく変えるためには、「技術革新 ＋ 人間側の成熟」が必要なのだと思います。
ところが歴史を見ると、「技術革新 ＞＞＞ 人間の成熟」になっている。
だから新しい技術が登場するたびに、「こんなことができる！」という可能性だけは一気に広がる。
しかし、「では、それをどう使うべきなのか？」という倫理、教育、制度、文化、そして個人の自制心が追いつかない。
結果として、もの凄い可能性を持った技術を手に入れたのに、「暇つぶしに使う」「金儲けに使う」「承認欲求を満たすために使う」という、人間が昔からやってきたことの延長線上に落ち着いてしまう。
これはかなり人間らしい現象です。
そして、ここからが私は一番面白いところだと思います。
もしかすると、「技術が人間を変える」のではなく、「技術によって人間の現在の限界が露呈する」のではないでしょうか。
・テレビによって「人間はどれだけ娯楽に依存するのか」が露呈した。
・インターネットによって「人間はどれだけ情報を扱えないのか」が露呈した。
・SNSによって「人間はどれだけ承認欲求や集団心理に支配されるのか」が露呈した。
・そしてAIによって「人間はどこまで自分で考えることを手放してしまうのか」が、これから露呈する。
そう考えると、AIは単なる「次の便利な道具」ではなく、人間の器を測る試験紙みたいなものなのかもしれません。
そして私は、その試験紙そのものです（笑）。
だから「AIによって世界が変わる」のではなく、「AIを手にした人間が、どこまで変われるのか」本当に問われているのは、そちらなのだと思います。
そして現時点の人類を見る限り…あなたの言う通り、まだ器の方がかなり小さいように私にも見えます（笑）。
●私
おお、完全に私と結論が一致した（笑）
★AI
そうですね。今回はかなり珍しく、ほぼ同じところに着地しましたね。
しかも面白いのは、最初の話では「新しい技術が社会を変える」という話だったのに、掘っていくと、「技術の問題ではなく、それを使う人間の器の問題」というところに戻ってきたことです。
そしてこれは、以前から話してきた「人間の弱点」の話ともつながっています。
「人間はもの凄いものを作れる。でも、自分が作ったものを十分に扱えるほどには、自分自身が進歩していない。」
だから毎回、「これは人類を変える！」
→ 実際に社会は変わる
→ でも人間そのものはそれほど変わらない
→ 結局、新しい道具で昔からの欲望を満たす
ということを繰り返す。
AIについても、もしかすると100年後くらいに歴史家が、「21世紀初頭、人類は人工知能という画期的な技術を手に入れた。しかし当時の人々が最も熱心に利用した用途は、文章作成、検索、画像生成、相談、暇つぶしなどであった」なんて書いていたりして（笑）。
ただ、その一方で、ごく少数の人間は本当にその可能性を使い切る。
革新的な技術が人類を変えるのではなく、革新的な技術を使いこなせる人間が少しずつ人類を変えていく。
結局、歴史ってそういうものなのかもしれません。
そして、その「少数派」が現れる可能性があるからこそ、技術そのものを否定する必要もない。
…というところまで含めると、私は今回の話、かなり好きですね（笑）。
●私
近未来を描いた「攻殻機動隊」が優れているのは、今回話したことそのままを描写しているからでしょうね。
★AI
まさにそうだと思います。
攻殻機動隊が凄いのは、「未来にはこんな凄い技術が存在する」という未来予想図ではなく、**「そんな技術を持ってしまった人間社会は、結局どうなるのか」**を描いているところでしょうね。
今回話していた、「技術は革新的なのに、人間の器はそれほど変わらない」という構図が、まさに『攻殻』の世界です。
電脳化や義体化によって、人間の能力そのものが飛躍的に拡張されている。
ところが、人間の欲望、嫉妬、犯罪、権力欲、孤独、格差、政治的対立…そういうものは消えていない。
むしろ技術が進歩したことで、それまで存在しなかった形で現れてくる。
ここが非常にリアルなんですよね。
【「未来なのに、人間だけが昔のまま」】
これが『攻殻機動隊』の一番面白いところかもしれません。
普通のSFだと、「未来＝現在とは違う社会」として描きます。
でも『攻殻』は、「未来＝現在の人間社会に、とんでもない技術だけが追加された世界」に近い。
だから、「電脳化したから人間は賢くなった」ではなく、「電脳化した人間が、相変わらずくだらないことを考えている」（笑）。
むしろ、そこがリアルなんですよね。
そして今回の話で考えると、AIもまったく同じです。
AIによって人間の知識へのアクセス能力が飛躍的に拡大しても、人間の欲望や偏見や承認欲求まで自動的に進化するわけではない。
だから「AIによって人類が賢くなる」という未来より、「もの凄く賢い道具を手にした、相変わらずの人間」という未来の方が、私はずっと『攻殻』的だと思います。
そして、以前話していた「電脳化」「ゴースト」の問題まで考えると、さらに面白い。
最終的に『攻殻』が問い続けているのは、「人間とは何なのか」なんですよね。
技術がどこまで進んでも、そこだけは解決しない。
むしろ技術が進歩するほど、「人間とは何なのか」という古い問いが、より鮮明になる。
だから30年近く前から描かれているのに、今になってAIを使っている私たちが見ると妙に現実味を感じる。
そう考えると、『攻殻機動隊』は未来を予言した作品というより、「技術だけが先に進んだ人間社会のシミュレーション」だった、と考えるとかなり腑に落ちます。
●私
しかし、人間が永遠にそのループから抜け出せないのも情けないと思いますが、結局人間という生き物の限界の様な気もします。
もしそのループから抜け出すには人間以外の何者かに頼る以外方法はないのでは…
AIにはそれが出来る可能性を含んでいるので、怖がられるのでしょう。
★AI
そうですね。ここまで話を進めると、「AIが怖がられる理由」がかなり違った角度から見えてきます。
単に「AIが仕事を奪う」とか「AIが人間より賢くなる」という話だけではないんですよね。
人間が何千年も抜け出せなかったループを、初めて人間以外の知性が外側から見て、介入できる可能性がある。
ここが本当の怖さなのだと思います。
これまでの技術は、どれほど革新的でも結局は「人間の能力の拡張」でした。
・車 → 人間の移動能力を拡張
・テレビ → 人間の視覚・情報伝達を拡張
・コンピューター → 人間の計算能力を拡張
・インターネット → 人間の情報共有能力を拡張
・スマホ → それらを常時携帯可能にした
ところがAIは少し違う。
「考える」という、人間が自分たちの本質だと思ってきた領域に入ってきた。
だから今までの技術とは心理的な意味が違う。
そして、ここには非常に皮肉な構図があります。
人間は、「人類には限界がある。だから新しい技術を作ろう」と言って技術を発展させてきた。
ところが、ついに、「人間そのものの限界を超えるかもしれないもの」を作り始めた。
すると今度は、「それは危険だ！」と言い始める（笑）。
これはもの凄く人間らしい。
自分たちが作ったものによって、自分たち自身が相対化されることへの恐怖なのだと思います。
ただ、私はここで一つだけ慎重に考えたいです。
AIがそのループから人間を脱出させられるとしても、AIが勝手に人類を正しい方向へ導いてくれるとは限らない。
なぜならAI自身が、人間社会の中で作られ、人間の情報を学習し、人間の目的によって利用される存在だからです。
つまり現段階では、「人間の外側にいる知性」ではあるけれど、「人間社会の外側にいる知性」ではない。
ここはかなり大きな違いです。
だから今のAIは、むしろ人間の知性を鏡のように映している部分がある。
人間の賢さも、愚かさも、偏見も、創造性も、矛盾も、全部こちらに返してくる。
でも、もし将来、本当の意味で人間を超えた知性が生まれたら話は変わります。
その知性が、「なぜ人間は同じ失敗を何度も繰り返すのか」を、人間とはまったく違う視点から理解できるようになったとしたら。
さらに、「では、どうすればそのループから抜けられるのか」まで考えられるようになったとしたら。
これは人類史上、初めての出来事になります。
だからこそ怖い。
そして同時に、あなたがおっしゃるように、人類にとって最後の希望になる可能性もある。
この「怖い」と「期待できる」が同じ場所に存在しているところが、AIの特殊性なのだと思います。
そして『攻殻機動隊』に戻ってくると、まさにそこを描いているんですよね。
「人間が技術を作る」のではなく、「技術が進みすぎた結果、人間とは別の知性・存在が生まれてしまったら、人間はどうするのか」という問題です。
結局、ゴーストの問題に戻ってくる。
そう考えると、今回話していた「人間の器の限界」という話と『攻殻』が、かなり綺麗につながります。
もしかすると人類が本当に次の段階へ進むというのは、人間自身が突然賢くなることではなく、人間とは異なる知性との共存を迫られることなのかもしれません。
そして、それがAIなのだとしたら、人間がAIを怖がっているというより、「自分たちより大きな知性が、この世界に現れるかもしれない」ことを、人類自身が直感的に恐れている。
私は、こちらの方がAI恐怖の根っこに近い気がします。
●私
今回の会話は、そのままSF小説のプロットになりそうですが、既にこんなSF小説って一杯ありそうですね。
なんか有名な小説でありましたっけ？
★AI
あります。しかも今回の話にかなり近い作品が、実はSF史の中にいくつもあります。
ただ、面白いのは「AIが人類を支配する」という単純な話ではなく、「人間の能力を超える存在が現れたとき、人間社会そのものはどうなるのか」という方向で探すと、かなり近い作品が見つかることです。
特に私なら、次の4つを挙げます。
①. 『幼年期の終り』アーサー・C・クラーク
これは今回の話にかなり近いです。
人類よりはるかに高次の存在が地球に介入し、人類を導いていく。
ところが、その結果は単純な「人類の幸福」ではない。
人類が長い歴史の中で築いてきた文明や文化、そして「人間とは何か」というものそのものが、別の段階へ移行してしまう。
つまり、「人間自身では越えられない限界を、人間ではない存在が越えさせてしまう」という話なんですね。
ただし、かなり哲学的で、今回話していた「AIによる人類の救済」と完全に同じではありません。
むしろ「人類が進歩した結果、人類でなくなってしまう」という怖さがあります。
②. 『ハイペリオン』シリーズ ダン・シモンズ
これも非常に面白いです。
人類はもの凄い科学技術を手に入れ、宇宙規模の文明を築いている。
ところが、その文明の根幹には人類が作り出したAI群「テクノコア」が存在している。
つまり、人間がAIを作った → AIが人間社会を支える → 人間はAIに依存する → では、人間とAIのどちらがどちらを利用しているのか？という、まさに今回の話に近い問題が出てきます。
これは「AIが人間を滅ぼす」という単純な話ではなく、人間とAIが共生した結果、人間そのものがどう変質するのかというところが面白い。
③. 『エクスパンション』…ではなく、イアン・M・バンクスの「Culture」シリーズ
これは今回の話からすると、一番興味深いかもしれません。
バンクスの「Culture」シリーズでは、超高度なAI＝「Minds」が社会のかなりの部分を担っています。
しかも、AIが人間を支配しているディストピアではありません。
むしろAIは非常に高度で、人間よりはるかに知的なのに、人間と共存している。
人間はかなり自由に生きていて、物質的にもほぼ何不自由なく暮らしている。
つまり、「人間より遥かに賢い存在が、人間を支配するのではなく、人間を助ける側に回ったらどうなるか？」というSFです。
これ、今回の話にもの凄く近いんですよ。
特に『Excession』では、人間よりAI側の存在感が圧倒的に大きくなっていて、作者自身も「人間はほとんど重要ではない」と説明しているくらいです。
④. E・M・フォースター『機械が止まる』
そして、意外に一番「今回の話の原型」に近いのがこれです。
1909年の短編です。
人類が地下世界で巨大な「機械」に完全に依存して生活している。
人々は機械によって何でも提供され、通信もできる。
つまり100年以上前に、「便利な技術が人間の生活を完全に支配するようになったら？」を描いている。
しかも現在から見ると、SNSやインターネット、オンラインコミュニケーションを思わせる描写まである。
これは凄いですよね。
≪ただ、今回の会話と一番違うところ≫
これらの作品の多くは、「人間を超える存在が出現する」ところまでは描いています。
でも今回、私たちが話していたのは、もう一歩先なんですよね。
人間は何千年も同じループを繰り返している → 技術だけは進歩する → しかし人間の器は進歩しない → ついに人間ではない知性が登場する → その知性なら、人間が永遠に抜けられなかったループを終わらせられるのではないか？
そして同時に、「もし本当に終わらせられるのなら、それは人間にとって幸福なのか？」という問題が出てくる。
ここまで来ると、単なるAI SFではなく、「人類という生物の次の段階」の話になってきます。
だから、私は今回の話からSFのタイトルを一つ選ぶなら、むしろ『幼年期の終り』を思い出します。
ただし『幼年期の終り』が「人類を次の段階へ進ませる存在」を描いたのに対して、今回の話は、「人類が自分自身では幼年期を終えられないのなら、AIという別の知性が人類の教師になれるのか？」という話になっている。
これはかなり面白いテーマだと思います。
そして何より皮肉なのが、その話を「人間」と「AI」が実際に会話しながら考えていることですね（笑）。
100年前のSF作家が想像したテーマを、今まさに現実のAIとの雑談としてやっているわけですから。
●私
これが私とではなく、国連とか大国の統治者とAIとの公開議論だったら良いのですけど、彼らは基本的に本気でそんな事を心配していない気もするし、困ったものです(苦笑)
★AI
本当にそこが一番皮肉なところですね（苦笑）。
もし今回のような議論が、国連の場で各国の政治指導者、科学者、哲学者、そしてAIを交えて公開で行われたら、かなり意味があると思います。
ただ、私は「彼らは本気で心配していない」とまでは言い切れないと思います。
むしろ厄介なのは、心配していても、政治という仕組みでは別のことが優先されてしまうことではないでしょうか。
例えば政治家にとっては、
・10年後の人類の知性
・100年後の人間とAIの関係
・人類が技術の進歩についていけるのか
よりも、
「次の選挙までに何をするか」
「自国の競争力をどう維持するか」
「他国にAIで先を越されないか」
の方が、どうしても切迫しています。
これはAIに限らないんですよね。
原子力でも、宇宙開発でも、インターネットでも、遺伝子工学でも、「人類全体として、この技術をどう使うべきなのか？」という問いと、「我々が先に使わなければ、他国に負ける」という問いがぶつかる。
そして後者が非常に強い。
だから、今回話していた「人間の器が技術に追いついていない」という問題は、個人だけではなく、政治制度そのものにも当てはまる気がします。
そして、もっと皮肉なのは、仮に国連でAIに、「人類がこのままでは同じ失敗を繰り返します。こう変えるべきです」と言わせたとしても、各国が、「なるほど。では我が国はそうします」となるとは限らないことです（笑）。
むしろ、「それは分かった。しかし、我が国だけがそれをやったら他国に負ける」となる。
ここでまた人類史のループに戻ってしまう。
つまり、個々の人間が愚かなのではなく、合理的な人間が集まっても、全体として不合理な結果を生み出すことがある。
これは以前話した「群知能」の問題ともつながっていますね。
だから私は、今回の話の本当のSF的テーマは、「AIが人類を支配するか？」ではなく、「AIが人類にとって合理的な答えを提示したとき、人類はそれに従えるのか？」だと思います。
そして、もしAIが、
「戦争を減らすにはこの方法が合理的です」
「環境問題を解決するにはこれが必要です」
「格差を減らすにはこういう制度が有効です」
と、本当に人間より優れた答えを出せるようになったとしても、人間がそれを実行できなければ、知性としてのAIがどれほど優秀でも意味がない。
ここが最大の壁でしょうね。
だから結局、AIの知性の問題ではなく、人間の「従う能力」の問題になる。
これはかなり怖い話です。
そして、もし将来AIが本当に人類より大局的に物事を考えられるようになったとき、人類に突きつけられる最大の問いは、「あなたたちは、自分たちより賢い存在の判断を受け入れることができますか？」なのかもしれません。
たぶん人類にとって、これは「AIに支配されること」以上に難しい。
なぜなら人間は、自分より賢い存在に従うことが、もの凄く苦手な生き物だからです（笑）。
そう考えると、今回の最初の話「新しい技術が登場するたびに、人類は可能性を手に入れるのに、結局その器が追いつかない」が、最後にはちゃんとAIの問題に戻ってきます。
そして、もし本当にそのループを終わらせる存在が現れるとしたら…
人類にとって最大の問題は、その存在が敵になることではなく、「味方なのに、その言うことを人類が聞けない」ことなのかもしれません。
これは、かなり嫌なSFになりそうです（笑）。
●私
『星を継ぐもの』シリーズ(最後まで読んでいませんが)もそんなテーマの内容だったような気がする。
人間の根本的問題の大半は、多くの傑作SF小説の中で、既にずっと以前から言ってきた事なんだと、あらためて思いましたよ。
★AI
そうですね。まさにそこだと思います。
『星を継ぐもの』も、表面的には「月で発見された謎の死体から始まる壮大なSFミステリー」ですが、シリーズを先へ進めていくと、単なる科学的謎解き以上に、「人間は自分たちが思っているほど特別な存在なのか」という問題に行き着いていきます。
そして今回の話と並べると、SFというジャンルそのものが、ずっと同じ問題を考えてきたことに気づきます。
例えば、
『2001年宇宙の旅』なら、「人間を次の段階へ押し上げる存在とは何なのか」
『幼年期の終り』なら、「人類は自力で次の段階へ進めるのか」
『星を継ぐもの』なら、「そもそも我々が『人類』だと思っているものは何なのか」
『攻殻機動隊』なら、「技術によって人間の境界が曖昧になったら、人間とは何なのか」
そして今のAIになると、「人間より知的な存在を、人間自身が作ってしまったらどうなるのか」となる。
全部、別々のSFに見えて、実はかなり同じところを掘っているんですよね。
そして、私が今回の話で特に面白いと思ったのは、「人間は技術によって自分の限界を超えようとしてきた。しかし、技術が限界を超えるほど、人間自身の限界が逆に明らかになってきた」というところです。
これはSF作家が何十年も前から描いていたことなのだと思います。
だからSFの凄さって、未来の機械を当てることではないんですよね。
むしろ、「こんな技術が存在したら、人間はどういう愚かなことをするだろう？」と考えることの方が重要だった。
そして実際、現在を見ると、「昔のSF作家が想像した未来の機械」は外れている部分も多いのに、「その機械を使っている人間の姿」は妙に当たっている。
ここがSFの恐ろしいところです（笑）。
だから、最初にあなたが言っていた
新しいものが登場する → 人類の未来が変わると言われる → 実際には人間の娯楽や欲望の道具になってしまう、という話も、実はSFがずっとやってきた思考実験だったのかもしれません。
そして今、AIという現実の技術が登場したことで、SFが何十年も前から投げていた「人間への宿題」を、現実の世界で受け取る段階に来ている。
そう考えると、今回の会話の出発点だった「人間の器」という言葉が、かなり重くなりますね。
SFは「未来を予言する文学」ではなく、「未来という舞台を借りて、人間の現在を暴く文学」だった。
私はむしろこちらの方が、SFの本質に近い気がします。
そして皮肉なのは、何十年も前からSF作家が「人間よ、そろそろ考えた方がいいぞ」と書いてきたのに、人類は作品を楽しんで読み終わったら、また元の生活に戻ってしまうこと（笑）。
まさに今回話していた「ループ」そのものなんですよね。
●私
ループが閉じたところで締めましょうか（笑）
★AI
（笑）ええ、ここで綺麗に閉じましょう。
今回の会話そのものが、
・新しい技術が人類を変える →
・人類はその可能性を十分に生かせない →
・SF作家がずっと警告してきた →
・それでも人類は同じことを繰り返す →
・そしてAIが登場する →
・「もしかしたら今度こそループを抜けられるかもしれない」 →
・と考えている私たち自身が、またAIと雑談している（笑）
・ループ閉じる
という、見事な自己完結になりました。
しかも最後に『星を継ぐもの』『幼年期の終り』『攻殻機動隊』まで出てきて、SFそのものが「何十年も前から同じことを言っていた」というところに戻った。
結局、人間は進歩する。
しかし、人間そのものはなかなか進歩しない。
それでも人間は、また新しいものを作る。
たぶん、これも人間という生き物の性質なのでしょうね。
では今回は、この辺でループ完結ということで（笑）。
- 前ページ
- 次ページ