ChatGPTのデモを見て驚いてすぐに友人たちに
広めたが、
使ってみると自分の知っている専門的な質問の答えは
通りいっぺんの答えしかできていないことがわかった。
将棋のAIは将棋に特化していてその優れた性能には驚くが
ChatGPTロボットは割と凡人であった。
そんな時に清水 亮，ITmediaというその道のエキスパートが
マジックの種明かしをしてくれた。
”なぜ人々は、ChatGPTという“トリック"に振り回されるのか？ Google「Bard」参戦、チャットAI戦争の行方”
一部引用：
単純なチャットボットは、わずか二行で作ることができる。
buffer=["こんにちは"]
buffer.push（prompt（buffer[Math.floor（buffer.length*Math.random（））]））
興味がある人はこれをブラウザの開発者タブでJavaScriptコンソールを立ち上げて実行してみてほしい。
「こんにちは」というプロンプトが現れるので、ここに何らかの反応を入力する。例えば「どうもどうも」などだ。再び二行目のコードを打ち込む（コピペで良い）と会話を続けることができる。
これで会話するとこんな感じになる。
「こんにちは」
「どうもどうも」
「こんにちは」
「さっき聞いたよそれは」
「どうもどうも」
「挨拶はもういいからさ」
「挨拶はもういいからさ」
「うん。別の話をしよう」
「さっき聞いたよそれは」
「え、言ったっけ？」
「どうもどうも」
「君、なんかおれのこと誤魔化そうとしてない？」
「え、言ったっけ？」
「なにを？」
「うん。別の話をしよう」
これは実際の会話だが、仕組みが分かっただろうか。つまり、この最も単純なチャットボットは、ユーザーが入力した言葉を覚えておいて、単にランダムに過去の発言を選んで出しているだけなのである。
それでもある程度は会話が成立しているように見えてしまうのは、コンピュータではなく、人間が、「会話の流れ」を頭の中に作ってしまうという習性があるからだ。こうした習性はモンタージュ理論・クレショフ効果などと呼ばれる。全く無意味な言葉の羅列から、意味を見出してしまう性質である。
....
”
フランスの詩人が書いた四行詩に、世界の終わりの予言を見出してしまう人もいるのだ。コンピュータが出したデタラメな受け答えを見ても、人間は勝手に自分の頭のなかで、相手の人格を見出してしまう。
これを少しだけ巧妙に作ったのがイライザだ。イライザの原理は、まず前提として、イライザは精神科医であり、やってくる人はカウンセリングにきた患者という設定を置くことにある。この設定によって、ユーザーは必然的にイライザに相談をしなければならなくなる。
例えば、イライザとの会話はこうなる。
「こんにちは。あなたのファーストネームは？」
「リョウ」
「そうですか。リョウさん。なにかお悩みがあるそうですね？」
「はい」
「どんなお悩みでしょうか？」
「実は弟がギャンブルに依存していて……」
「ギャンブルはできればやめたほうがいいでしょう」
「そうなんです。それで父と弟が喧嘩していて……」
「お父さんはどんな方ですか？」
「サラリーマンで、いまは定年しています」
「もっと聞かせてください」
「そうですね、父はエンジニアでした」
「エンジニアは素晴らしい仕事ですね。聡明さを要求される職業ですね。あなたはどんなお仕事を？」
このような具合である。この会話のトリックは極めて簡単だ。
「父」という言葉が発言に含まれていれば、「お父さんはどんな方ですか？」と聞く。「ギャンブル」という言葉が発言に含まれていれば、「ギャンブルはできればやめたほうがいいでしょう」と当たり障りのない答えを返す。エンジニアも同様。どれにもあてはらなければ、「もっと聞かせてください」など、相手の発言を引き出す定型文を投げる。
今でこそ、「定型文」というのは身近になったが、それはメールやメッセンジャーが普及しきったからだ。そんなものがない1960年代に「定型的な返しだけで会話が成立する」と想像するのは難しい。だからワイゼンバウムはすごかったのだが、同時に会話の中身がないことは作った本人がよく承知していた。
もっと複雑なこともできるが、重要なのは、それが全てトリックであるということだ。イライザは一大ブームを巻き起こし、さまざまなものに影響を与えた。
”
こんな具合だ。
私たち普通の人は、科学者や研究者もマジックに関しては普通の人だ、
最も簡単にマジックに騙されてしまう。
かってユリゲラーがスプーン曲げで世界中の人を騙したように
chatGPTが
世界を変えるAI bot かのように
思ってしまったのだろうか？
マジックやマジックはユリゲラーが引退した後でも残っている。
chatGPTのトリックが清水 亮，ITmediaさんに暴かれても
マジックを暴くことは難しいので
chatGPTはますます利用されていくに違いない。