ハルシネーション | えらっきーの日記

えらっきーの日記

日常の出来事を日記のように書いていきます。

AIが事実と異なることをもっともらしく出力することをハルシネーションと呼び、AIを利用する上でのリスクとして認識されていますが、人間だって事実と異なることをもっともらしく話すことがありますよね。

SNSなんか、そんな情報が大量にある。

仕事でも、自分の意見を通すために、事実と異なることをもっともらしく話す人がいる。

 

だから、AIだけが問題という訳ではない。

問題は、それを確認することを怠って、それを鵜呑みにする受け手の問題。

 

仕事なんか、専門性が高くなると、その事実を確認できるレベルの人が減っていくから、専門外の人が鵜呑みにして、その後、誤りを指摘しても正しいことが伝わらないことが起こる。

特に、シニア層がいい加減なことを言うと、人で判断されて、中身が精査されないことが頻繁に起きる。

 

AIも人の発言も、それが正しいことを確認しないといけない。

確認できない場合は、そのリスクの度合いに応じて対応していく必要がある。

特にリスクの高いものについては、確認できるまで信じないのが正しい対応でしょう。