AIは便利なものだけど、情報の精査に時間がかかると感じて
いるのは、私だけではないはず。
通常の検索が良いときと、AIを使ったほうが良いときと、
両方ありますよね。
私はライターなので生成AIを使って文章は書かないですが、
情報の整理や、レポートの型や画像を作るのに重宝しています。
AIを有料版にしても、やっぱり嘘をつくときがあります。
調べると、全く違うことを言ってたり。
「これって何でだろ？」と思っていたら、友人の北端さんが
メルマガにわかりやすく書いてくれていました。
◎生成AIは事実の真偽ではなく、文章のパターンを学ぶことに
特化しているので、 事実ではなく「それらしい文章」を書く
ことが優先だから
◎ユーザーに役立つ、分かりやすい回答を出そうとするあまり、
説明を簡単にし過ぎて、情報の順序や因果関係が曖昧になり、
誤解を生む回答や間違った回答になる
◎AIの評価基準は「正解率」を最重視しているので、知らない
問題に直面しても「分かりません」と正直に答えて確実に0点に
なるよりも、「推測してでも何かを答え、正解する可能性」に
賭けた方が評価スコアが上がるから。
なるほど、と思いませんか？
もちろん、これからもどんどん改善されていくんでしょうが、
ファクトチェックをきちんとすることや、やAIの言い分に従う
だけではダメですね。
とく仕事でAIを使っている人は、気をつけましょう。