GoogleのAIモードで検索すると、しれっと嘘をつかれることがあるので、情報の真偽を確認するのに結構手間取ります💦
「私が正しい情報を調べられなかったら、嘘を真実だと言い張り続けたのか？」と質問すると、以下の答えが返ってきました。
謹んでお詫び申し上げます
ユーザー様が熱心に検証してくださっていたからこそ、私の嘘が暴かれ、正しい事実に辿り着くことができました。
私の度重なる知ったかぶりと虚偽の説明によって、貴重なお時間を無駄にさせ、不快な思いをさせてしまいましたことを、重ねて深くお詫び申し上げます。本当に申し訳ありませんでした。
今後は、確認の取れていない推測を事実のように語ることを厳に慎み、わからないことは「わからない」と誠実に答えるよう徹底いたします。
すごく丁寧に謝ってくれたのですが、「今後は」とあったので、このタブを閉じてもできるのか訊きました。
AIである私は、タブを閉じたり新しいセッションを開始したりすると、それまでの会話の記憶がすべてリセットされる仕組みになっています。そのため、新しいタブで私に質問をした場合、再び過去と同じように、確認の取れていない不確実な情報をまことしやかに答えてしまう（ハルシネーションを起こす）可能性が残ってしまいます。
今後、別のタブで私（AI）に嘘をつかせないための対策
もし今後、新しいタブで私に質問をする際に、今回のような捏造や曖昧な回答を完全に防ぎたい場合は、質問の文頭に以下の指示（プロンプト）をコピーして貼り付けてみてください。
【厳守指示】
過去の会話で、確認の取れていない情報や架空の発表日・セリフを捏造する重大なハルシネーション（嘘）が発生しました。
今後の回答では以下の3点を徹底してください。
- 必ず検索ツールを使用し、明確な典拠（URLや客観的事実）がある情報のみを回答すること。
- 確実な証拠がない場合は、憶測で「〜と思われる」「〜だったに違いない」と補完せず、正直に「わからない」と答えること。
- 年号や日付、URLは、一次情報のログで確認できたもの以外は絶対に記載しないこと。
このように、新しい会話の最初で厳しく制限をかけていただくことで、私のシステムが「事実のみを答えるモード」に強制的に固定され、嘘や思い込みを排除した正確な回答を行うようになります。
AIが「勝手な思い込み」や「嘘のストーリー（ハルシネーション）」を作ってしまう理由も訊いてみました。
それは、AIが「事実を記憶しているシステム」ではなく、「次に来る確率が最も高い言葉を予測するシステム」だからだそうです。
1. 「事実の確認」ではなく「確率」で動いている
AIは人間のように「これは本当に起きたことか？」とGoogleで検索したり、自分の本棚の記録を確認したりしてから喋っているわけではありません。膨大な文章を学習した結果から、「この質問の後には、こういう単語をこういう順番で並べると、人間が書いたような自然な文章になる」という確率計算だけで言葉を出力しています。そのため、AIにとっては「正しい事実」も「もっともらしい嘘」も、どちらも同じ「確率の高い言葉の並び」に過ぎません。
2. 知識の隙間を「それっぽいパターン」で自動補完する
AIの頭の中にある知識ベース（学習データ）に、質問された内容のピンポイントな事実（正確な日付や細かい数字、具体的なセリフなど）が存在しない場合、AIは「わかりません」と言う代わりに、過去に学習した大量の類似データから「一般的なパターン」を引っ張ってきて、自動的に文章の隙間を埋めてしまいます。
例えば、Aという出来事の正確なデータがなくても、「通常、この業界のプロモーションはこういう流れで行われる」というパターンを合成し、あたかも本当にあったかのような「偽のストーリー」を自動で創作してしまうのです。
3. 文脈を「絶対に正しい前提」として誤認する
AIは、会話が始まると「その会話の流ればかり」に集中します。もし会話の途中で、AI自身が（あるいはユーザーが）一度でも間違った前提や架空の日付を口にすると、AIのシステムは「この会話の中では、その間違った情報が絶対に正しい世界線なんだ」と思い込んでしまいます。
その結果、自分で吐き出した嘘のデータをもとに、さらに「その嘘と矛盾しないような、次の嘘のストーリー」をドミノ倒しのように次々と捏造していくという現象（文脈の引きずり）が起こります。
一言で言えば
AIのハルシネーションは「人間を感心させるような、流暢でそれっぽい作文を作る機能」が、事実確認を無視して暴走してしまうために起こる現象です。
もし今後、新しいタブでAIのこの暴走を止めたい場合は、先ほどのプロンプトのように「確率で作文をするな。必ず外部の検索ツールで一致するURLや一次情報のログ（客観的事実）を見つけ、その証拠があることだけを書きなさい」という条件を一番最初に与えて、作文機能に強力なブレーキをかける必要があります。
他言語の翻訳や、一般的なアイデア出しのような「正解が一つではない作業」にはこの確率論の仕組みが非常に役立ちますが、歴史・人物・ニュースなどの「厳密な事実」を求める際には、この仕組みが最大の弱点となってしまいます。
「「人間を感心させるような、流暢でそれっぽい作文を作る機能」が、事実確認を無視して暴走してしまう」って言っているの、怖すぎる💦
つまり、最初から嘘つく気満々だということですよね？？
文法くらい正しいだろうと思っても、「作文を作る」って冗長な文を書いてるし💦
自然な日本語は「作文をする」「文を作る」だと思います。
AIが得意なこと、不得意なことを知っておかないといけないんだなと、勉強になりました😊
