AIは「堂々と」嘘をつく。そして人は「断言」に弱い

年配の方と

お話ししていて、

（税金の）控除

…の話になりました。

それで、

すごく楽観的なことを

おっしゃる。

しかし、

 

いや…冷静に考えて

日本の税制が、そんなに甘々なわけ

ないだろう

…と思うのです。

私は、毎年

自分で、確定申告をしているので

税制のことは、少しだけですが

勉強して、知っており…

さらに、毎年

確定申告をする中で

税って…（容赦ないなあ）

という「肌感覚」が

あります。

それで、

 

違うと思いますよ

と言ったのですが、その方は

 

いや、そうだ！

…と言い張る。

なぜ、そこまで

自信満々に言い張るのか

不思議に思っていると、

 

ChatGPTがそう言ったから

…とおっしゃる。

 

ああ、なるほどなあ

…と思いました。

AIは、ときに

間違ったことを言う

のですが…

そのとき、

「堂々と」ウソを言う。

ここが問題点だな

…と思いました。

生身の人間なら、

ちょっと申し訳なさそうな

表情をしたり…

 

これは、記憶が定かでないので

もしかすると、間違っていたり

するかもしれませんが…

…などと、

前置きしたりするので

「不確実さ」が伝わる。

でも、AIは

堂々と嘘を言う

ので、

そこに「不確実性」がある

ことが、伝わらない。

AIの言うことって、わりと

論理に矛盾があったり…

AIの書く文章って

よく見ると、おかしかったり

するのですけれど…

あまりに、堂々と言うので

そういった「かすかな違和感」を

すっ飛ばして、信じてしまう

方が、いるのかもしれません。

ここで

わかることは、

人は「押し」に弱い

ということ。

相手が、堂々と断言するほど

信じてしまう。

私は、そうではないのですが

そういう人が

一定数、いる

ということです。

AIのハルシネーション

については、私も

いろいろなやり方を

試してみて…

• わからないことは「わからない」と明言してください
• 実在するデータ、かつ参照可能な論文または書籍に基づくことのみ、提示してください
• その際、出典を添付してください
• 推測は「推測です」と明示してください

…などと、プロンプトに

書いたりしますが、

それでもダメですね。

「出典」として

提示されたものが、

全部ウソ

だったりします。

冒頭のお話に

戻って…

この方には、

 

各地の税務署に

電話相談センター

があって、

すごく親切に教えてくれますよ。

私なんて、

日々の会計処理で

わからないことがあるときも

気軽に電話していますよ

…とお伝えしました。

すると、

 

電話番号の調べかたが

わからへん

…とおっしゃるので、

その場でググって

お伝えしました。

そうか、年配の方には

ググるより、AIに聞く方が

簡単なんだなあ…

まとめ

自信満々に語られると、

信じてしまう人たちがいる。