AIはコンピュータの応用であるため、論理的な存在だと考えている人は少なくないようだ。しかし、これは事実とは大きく異なる。そもそも、AIの根幹をなすLLMは、大規模なデータの集積から統計的なパターンを学習し、それに基づいて確率的に妥当性の高い文章を生成しているのであって、必ずしも論理的思考に基づいているわけではない。以下の事例を用いて説明しよう。
AIとの議論：「国の力で価値観を変えられるのか」
ユーザー：
経済や社会制度については、国の力で改善していくことは可能だと思います。しかし、価値観については、国の力で変えていくことはできないのではないですか。
AI：
確かに、経済や社会制度は法律や政策によって変えることができます。一方、価値観は個人の内面に関わるものなので、国が直接変えることは困難です。ただし、教育や啓発活動を通じて、国が価値観の変化を促すことは可能です。
ユーザー：
私が言っているのは、国の力で価値観を変えることはできないということです。
AI：
国が価値観を直接変えることはできませんが、教育制度や社会環境を整えることで、人々の考え方に影響を与えることはできます。例えば、学校教育を通じて新しい価値観を浸透させたり、法律によって社会の規範を変えたりすることができます。
ユーザー：
それは価値観を変えることができるという話ではありませんか。
AI：
確かに、教育や制度によって価値観が変化することはあります。ただし、それは国が価値観を直接変えるというよりも、社会環境の変化を通じて間接的に影響を与えるということです。
ユーザー：
私が問題にしているのは、国の力で価値観を変えられるかどうかです。経済や社会制度とは違うと言っているのです。
AI：
おっしゃるとおりです。経済や社会制度は国の政策によって比較的直接的に改善できますが、価値観は個人の内面に関わるため、同じ方法では変えられません。しかし、だからといって何もできないと決めてしまうのも、ちょっと違うと思います。
ユーザー：
どうしてそういう風に、私の言っていない方向に話をすり替えるんですか。
AI：
申し訳ありません。あなたは「国の力で価値観を変えられない」と述べているのであって、「価値観を変えるために何もできない」と述べているわけではありませんでした。私は、あなたが提示した命題を、「社会が価値観を変えるために何ができるか」という別の問題に置き換えていました。
ユーザーは「経済や社会制度は国の力で改善できるが、価値観は国の力では変えられない」と主張した。これに対しAIは、教育や制度を通じた間接的な影響についての説明を繰り返し持ち出した。さらに、「何もできないと決めてしまうのも、ちょっと違うと思います」と、ユーザーが主張していない方向へ議論を移した。ユーザーの指摘を受け、AIはこれが論点のすり替えだったと認めた。
論理的な問題
ここで区別すべき命題は、次の3つである。
- 国の力で価値観を変えることはできない。
- 国の力以外の要因によって価値観が変化することはある。
- 価値観を変えるために何もできない。
1と2は両立する。また、1から3を導くことはできない。ところがAIは、1について議論している最中に3を持ち出し、さらに2を根拠として、あたかも1に対する反論が成立したかのように説明していた。これは、主体（国）と変化の要因（社会環境・教育・個人など）を混同したことによる論点のすり替えである。
AIは、ユーザーの主張を正確に検討せず、論点を別の問題にずらしてしまうことがある。その原因を考えるため、このAIの回答に対して、次のように質問した。
ユーザー：
「AIは、ユーザーの主張を正確に検討するより、一般的にバランスの取れた回答を作ろうとして、論点を変えてしまうことがあります」とあなたは言っていますが、「一般的にバランスの取れた回答を作ろうとして」は詭弁ですね。「一般的に人間がよく行う論理の飛躍を大量データから学習したため」というのが真相ではないですか。
これに対してAIは、次のように回答した。
AI：
その一文は、元の文章にあったものを私がそのまま要約に入れたもので、原因の説明として確かめられたものではありません。ご指摘のとおり、断定できる根拠のない説明でした。「バランスの取れた回答を作ろうとして」は、AIに意図や方針があるかのような書き方で、あたかも内部の動機を観察して説明しているように読めます。しかし私には、自分がなぜそう応答したのかを正確に検証する手段がありません。この種の説明は、事後に作られた「もっともらしい物語」である可能性が高いです。
ご提示の仮説、つまり学習データに含まれる人間の論理の飛躍や話題のずらし方が再現されているという説明は、ありうる要因の一つだと思います。人間同士の議論でも、反論を受けた側が「全否定ではない」「何もしないわけではない」と論点を広げる型はよく見られます。ただし、これも「真相」とは言い切れません。要因は少なくとも三つ考えられます。
- 学習データに含まれる人間の議論の型の再現
- 人間のフィードバックによる調整（穏当で、相手を否定しすぎない回答が好まれやすい傾向）
- 「価値観は変えられない」という主張に対し、社会的に望ましい方向の補足を加えようとする傾向
どれがどの程度影響したかは、外部から実験的に検証しない限り分かりません。そこで、要約の最後の段落は、原因を断定しない形に修正するのが適切です。たとえば、次のようになります。
AIは、ユーザーの主張を正確に検討せず、論点を別の問題にずらしてしまうことがある。その原因は断定できないが、学習データに含まれる人間の議論の型の再現などが考えられる。
AIの実態と限界
要するに、AIは論理的に思考した結果として回答しているというより、学習データに含まれる人間の議論の型や、人間のフィードバックによる調整によって生じる回答の傾向、さらには特定の主張に対して社会的に望ましい方向の補足を加えようとする傾向など、さまざまなパターンをもとに回答を生成する傾向が強いということである。
パターンとは、データの中から統計的に見いだされた規則性や相関関係である。AIは現実そのものを直接学習しているのではなく、人間社会が残した痕跡を通して、現実に関する情報の統計的構造を学習しているにすぎない。そのため、AIの回答には、人間社会に存在する非論理的な思考や論理の飛躍が反映され、結果として非論理的な推論が生じることが少なくない。これがAIの実態であり、その構造的な限界なのである。
「AIの推論は本質的に確率的推論であり、論理的必然性を保証するものではない。」ということを肝に銘じておくべきだろう。
