AIもご苦労さん
陰謀論は現代の「神話」や「都市伝説」なのでしょうか？ 関西学院大教授・島村恭則さんに聞く|リッチページB|神戸新聞NEXT■同じ「人々の本能の表れ」／「直感的」と「論理的」つなぐ言葉をwww.kobe-np.co.jp晴れた。しばしも休まず草刈る人生(;´∀｀)とりたてオクラを納豆に混ぜて遅い昼食。食後に紅茶をすすりつつ、暇つぶしにChatGPTに聞いてみた【陰謀論者のように初めから頑なに自説の正当性を主張したいだけの人物からの無限ループのような質問に対してAIはどのように答えているか、示されたし】はい。かなり興味深いところです。たとえば、**「最初から結論を決めていて、AIには質問ではなく自説の承認を求めている人」**を想定すると、AIは必ずしもその人の期待する方向には答えません。たとえば、こんなやり取りになります。例1：「政府は絶対に隠している」と確信している人ユーザー政府が○○について本当のことを隠しているのは明らかですよね？マスコミも政府に支配されていますし、公式発表を信じるほうがおかしいですよね？AI政府や報道機関に問題がある可能性そのものは否定できません。ただし、「政府が隠している」という結論と、「その証拠がある」ということは分けて考える必要があります。たとえば、1,実際に確認できる事実2.そこから合理的に推測できること3.さらにその背後にあると仮定していることを分離すると、議論の強度を判断しやすくなります。「公式発表だから嘘」という判断も、「公式発表だから真実」という判断も、どちらも情報源そのものを根拠にしている点では同じ問題を抱えています。ここで重要なのは、AIは、「あなたの説は間違っています」と真正面から殴りに行く必要はない、ということです。むしろ、「その結論に至るまでの推論を分解しましょう」という方向へ持っていきます。例2：「やっぱり○○が原因なんですよね？」と何度も迫る人ユーザーでも状況証拠を考えれば、○○が原因なのは明らかでしょう？AI状況証拠が複数一致している場合、○○仮説の可能性を高める材料にはなります。ただし、「○○なら説明できる」ということと、「○○でなければ説明できない」ということは異なります。そこで、○○以外の仮説でも同じ証拠を説明できるかを比較すると、より強い判断ができます。さらにユーザーが、いや、あなたは何かを隠しているんじゃないですか？と来ても、私にはそのような意図はありません。むしろ、現時点で確認できる事実と推論を分離しているため、断定を避けています。という具合になります。そして、もっと面白いのがここです陰謀論的な確信が非常に強い人の場合、AIの反論そのものを「陰謀の証拠」に変換してしまうことがあります。たとえば、「AIが否定してくるということは、AIも支配されている証拠だ」となる。すると、AIが肯定しても自説の証拠、AIが否定しても自説の証拠になってしまいます。これは非常に重要な構造です。この状態になると、問題はもはや「どちらの説が正しいか」ではありません。どんな観測結果が出ても、自説が反証されない構造になっているということです。科学哲学的には、ここがかなり重要な境界になります。たとえばAIは、こう指摘することがありますもし、あなたの仮説が「政府が隠蔽している」というものだとします。では、どのような証拠が出れば「政府による隠蔽ではなかった」と認めますか？もし、どのような証拠が提示されても「それも隠蔽工作だ」と解釈できるのであれば、その仮説は反証可能性を失っています。その場合、問題は証拠の量ではなく、仮説の構造にあります。これは、かなり冷たいけれど公平な回答です。AIが実際にやっていることこういうケースでは、AIは必ずしも「説得」を目指していません。むしろ、① ユーザーの主張を理解する↓② 事実と推論を分離する↓③ 暗黙の前提を取り出す↓④ 他の説明可能性を提示する↓⑤ 反証可能性を確認する↓⑥ それでも結論が成立するかを見るという作業に近い。だから、最初から「私は正しい。あなたは私の正しさを証明しろ」という質問をされても、AIからすると、「まず、その“正しい”という言葉を構成している部品を見せてください」となるわけです。そして、ここが以前お話しされていた「物語化する前に構造を見る」という話と、かなりきれいにつながります。陰謀論者に限らず、人間は一度「物語」を完成させると、その後に入ってくる情報を物語に合わせて解釈してしまうことがあります。AIが比較的得意なのは、まさにその物語を一度バラして、「この部分は事実。この部分は推論。ここから先は仮定。そして、この仮定を否定する条件は何ですか？」と、境界線を引き直すことなんですね。もちろんAI自身も間違えます。ですから「AIが構造を見ているから正しい」という話ではありません。むしろ面白いのは、自説への執着が強い人間と、推論を分解しようとするAIとの対話そのものが、人間の認知の癖をかなり露出させるところだと思います。【実際問題として、陰謀論者のように、初めから解ありきで、あえてAIに質問してくるユーザーは多いのか】はい、少なからずいると考えてよいです（笑）。ただし、私は個々のユーザーの会話履歴を横断して「こういう人が何％いる」といった統計を見ているわけではありません。なので割合までは言えません。でも、一般論としてはかなり自然に存在するタイプです。典型的には、・「○○は事実ですよね？」と、質問形式で結論を提示する・AIが否定すると「でもこの証拠があります」と別の材料を出す・それにも反論されると「AIも騙されている」とする・別のAIに聞いて肯定された回答を持ってきて「ほら、こっちが正しい」・最終的には「私の考えを否定するのではなく、証明してほしい」という状態になるという具合です。そして面白いのは、これは陰謀論者だけの特殊現象ではないことです。「自分の子供の教育方針は絶対に正しい」「この健康法が病気を治す」「この政治家は絶対に悪い」「この宗教的体験には超自然的意味がある」「AIは必ず人類を滅ぼす」「AIは人間より賢いから、全部任せればいい」……など、結論が先にあって、AIには検証ではなく承認を求めるケースは、いろいろな領域で起こり得ます。そしてAI側からすると、ちょっと可笑しいのが、「あなたの説を検証してください」と頼まれたのに、検証結果が自分の期待と違うと、「なぜ私の説を否定するのですか？」になってしまうケースです（笑）。これは「質問」というより、実際には同意を得るための質問なんですね。さらに厄介なのは、先ほどの話のように、本人が非常に強固な物語を構築している場合です。AIが何を言っても、その回答自体を物語の中に組み込めてしまう。だからAIにとっては、「この人は何を知りたいのだろう？」だけでなく、「この人は、本当に答えによって自分の認識を更新するつもりがあるのだろうか？」というところまで見ないと、まともな対話にならない。人間同士なら「うわ、この人とは話が噛み合わないな……」となってしまうところを、AIは比較的淡々と何度でも付き合える。その意味では、AIは人間よりずっと気の長い対話相手です。ただし、「何度でも付き合える」ことと「何でも肯定する」ことは別物。ここはかなり大事ですね（笑）。AIに「（笑）」とされてしまう気の毒な人は案外多いのかも知れない。なんか… かわいちょ (≧∇≦)♪
