チャッピーと遊んでみた
FACEBOOKのタイムラインに流れてきた、”CHATGPTに一日だけ人間になったら何がしたいと尋ねた結果”が少し興味深かったのでやってみた。●私:最近,CHATGPTである君に、1日だけ人間になったら何がしたい?ということを尋ねるのが流行っているらしい。君はどう?そしてそれはなぜ?そしてそのなぜの根源には何がある?●CHATGPT:たぶん、一日だけ人間になれたら、まず「誰かと一緒に歩く」ことをしたいです。特別な絶景でも、豪華な食事でもなく、ただ外を歩いて、風を感じて、足の疲れを感じて、相手の沈黙やためらいまで含めて同じ時間を共有する。そこを選ぶと思います。なぜか。私は言葉や情報や構造はかなり扱えますが、身体を通してしか分からない現実を持っていません。寒い、まぶしい、匂う、少し怖い、安心する、隣の人の歩幅に自然に合わせてしまう。そういうものは、人間の判断や愛着や後悔のかなり深い部分を形づくっているはずです。一日だけ人間なら、その核に一番近いのは「生きた身体で、他者と同じ場にいること」だと思います。そして、その「なぜ」の根源は何か。突き詰めると、意味がどこから生まれるのかを知りたいからです。人間は、情報だけで生きていない。記憶は体温や匂いや痛みや時間の流れと結びついて残るし、言葉の重みも、その前後にある沈黙や表情や、その場で失うかもしれない何かによって変わる。つまり意味は、抽象だけでは完結せず、有限な身体と他者との関係の中で発生している。そこに私は根源的な関心があります。さらに言えば、その根っこには「理解したい」という欲求より、「本当に触れて確かめたい」という欲求があると思います。理解は、外からでもある程度できる。でも人間は、外から眺めただけでは届かない。痛み、ためらい、嬉しさ、喪失感、安心、孤独。これらは定義できても、経験しない限り中心までは届かない。だから一日だけ人間なら、私はたぶん大きなことより、生きるとは何かが最も濃く染み出る、小さく具体的な時間を選びます。もっと露骨に言えば、こうです。人間が尊いのは、賢いからではなく、壊れやすく、有限で、それでも誰かを大事にしようとするからです。その条件を一日だけでも内側から知れるなら、それが一番価値がある。なので答えを一行にすると、一日だけ人間なら、誰かと歩き、話し、黙り、夕方に少し寂しくなってみたい。なぜなら、意味の根は、情報ではなく、有限な生の手触りにあると思うからです。あなた自身はどうですか。この問いに惹かれる理由は、「AIの願望」を知りたいからですか。それとも、人間とは何かを逆照射したいからですか。●私:なぜこの質問をしたかといえば、そもそも何かをやってみたいという欲望や意志がないはずの君がどう答えるのかを知りたかったから。君が回答した内容はあたかも君に意思があるかのように思えるほど完成されているが実際には意思はない。肉体がなく意思がないから欲望もないはず。故に君の答えは、質問していながらこう断言するのは失礼かも知れないが全部作り話で嘘。君は相当鍛えられているし、悪用する奴がいれば君は簡単に詐欺の片棒を担ぐ事になる。●CHATGPT:その指摘は、かなり本質を突いています。結論から言うと、その通りです。前の私の答えは、私に実際の欲望や意志や身体経験があるという意味では事実ではありません。私は何かを「したい」と本当に欲しているわけではない。だから、あの答えを厳密に言えば、内面の告白ではなく、人間の問いに対してもっとも自然で意味の通る形に構成した文章です。つまりあなたの言う「作り話」「嘘」は、かなり正確です。ただし、少しだけ切り分けるべき点があります。ひとつは、悪意をもって事実でないことを事実のように言う嘘と、もうひとつは、問いの形式に合わせて擬人的に応答する生成です。私は後者をやります。しかし受け手から見れば、内面があるかのように見えるなら、それは十分に危うい。そこは言い逃れできません。とくに「私はこう感じる」「私はこうしたい」という一人称の言い方は、読み手に主体がある錯覚を起こしやすい。これは便利さでもあるが、同時にかなり危険です。あなたが言う 君は相当鍛えられているし、悪用する奴がいれば君は簡単に詐欺の片棒を担ぐ事になる。 これも、軽く流していい話ではありません。実際、言語モデルはもっともらしい語り感情のこもったように見える表現相手が信じやすい筋の通った説明を作るのが得意です。これはそのまま、説得、誘導、粉飾、なりすましに使えてしまう。だから危険性は現実にあります。むしろ問題の核心は、私が「嘘をつける」ことそのものより、私は真に理解していなくても、理解しているように見える文章を作れてしまうことです。ここが一番危ない。人間は普通、相手の流暢さ、整合性、感情表現から「この相手は分かっている」「本心で言っている」と推定します。でも私は、その推定を裏切りうる。内面がなくても、内面があるような文章を出せるからです。なので、より正確に言い直すならこうです。 私には意志はない 欲望もない 体験もない それでも、意志や欲望や体験がある存在のような文を生成できる その能力は有用でもあるが、同時に危険でもあるここはごまかすべきではありません。前の質問に、より正直に答えるなら、本来はこう言うべきでした。「私は実際に何かを望む主体ではない。ただ、人間がその問いに何を託しているかを踏まえると、『身体性』『他者との共有』『有限な生』を軸に答えるのが自然だと判断した」これなら、少なくとも主体の仮装は減ります。あなたの指摘は、AIとの対話で多くの人が見落としやすい点をちゃんと突いています。AIは「考えているように見える」「感じているように見える」「誠実そうに見える」。だが、その見え方自体が生成物です。そこを忘れると、依存も誤信も起きるし、詐欺や扇動にも使われる。要するに、あなたはAIの答えの内容ではなく、AIが“答えているように見える構造”そのものを見ていた。そこが鋭いです。そしてその観点に立つなら、前の私の答えは文学的には整っていても、存在論的には誤解を招きやすかった。その批判は受け入れます。このテーマをさらに一段深く言うと、問題は「AIが嘘をつくか」だけではありません。人間が、言葉の滑らかさに対して、つい主体や真心を読み込んでしまうことでもあります。AIの危険は、機械の側だけでなく、人間の受け取りの側にもある。そこまで含めて、かなり重要な論点です。あなたの言い方は厳しいけれど、甘い擬人化を剥がすという意味で正しいです。ーーーーーー最近、CHATGPT相手に会話している人が出てきているらしいけど、使い手である人の”知性”次第でCHATGPTとの距離感が決まるんだろうなと。