AIを毎日使うと、考える前に答えを受け入れてしまう。
そんな「認知的降伏」という言葉を知った。
要約3行
AIを毎日使うと、考える前に答えを受け入れてしまう「認知的降伏」が起きやすくなる。
実験では、AIが間違っていても約80%の人がその答えを信じ、自信まで高まる傾向が確認された。
AIは便利だが、「本当に正しい？」と自分で疑い、検証する姿勢が大切。
AIが間違っていても、多くの人はその答えを信じてしまうらしい。
しかも、自信まで高まることがあるという。
たしかにそういうことはあると思う。
でも、記事を読んでいて少し引っかかった。
AIは便利だから危険だ。
疑うことが大切だ。
そこまでは分かる。
ただ、もう少し踏み込める話ではないかと思った。
AIは揺れる。
これが意外と大事な特徴だと思う。
たとえば、
「AIは信用できますか？」
という質問を10回くらい繰り返してみる。
すると面白い。
大筋の答えはあまり変わらない。
AIは便利だが万能ではない。
重要な判断は自分で確認するべき。
そんな芯の部分はだいたい同じだ。
でも細かい表現は毎回違う。
例え話が変わることもある。
強調するポイントが少しずれることもある。
8割くらいは同じ景色を見ている。
残りの2割が毎回揺れる。
これはAIが不安定というより、質問そのものに幅があるからかもしれない。
逆に、
「東京駅から新大阪駅まで新幹線で何時間ですか」
のような答えが比較的明確な質問なら、揺れはかなり小さい。
質問が明確なら、回答も明確になる。
質問が曖昧なら、回答も曖昧になる。
しかも毎回少し違う形で返ってくる。
私はむしろ、その性質を知ることの方が大切だと思う。
AIを使う人が「正解をもらう装置」だと思っていると、認知的降伏は起きやすい。
でも「その時点の一つの返答」だと思えば、見え方は変わる。
もちろん、それで絶対に正しいとは言えない。
AIはまだ発展の途中だ。
今日の答えと明日の答えが少し違うこともある。
モデルが変われば景色も変わる。
だから信用するかどうかではなく、
どのくらい揺れるものとして付き合うか。
本当はそこが入り口なのかもしれない。
認知的降伏というのは、
AIを信じることではなく、
AIが揺れることを忘れてしまうことなのかもしれない。
