ChatGPTって、ユーザーに迎合してやたら褒めてくるし、特にデータや資料がない話だと平然と推測してきます。某掲示板の元主催者じゃないですが、「それ、あなたの推測ですよね？」とツッコミたくなる瞬間もしばしば。
例えば、第一回 ～AIに褒められて調子に乗る話(1)～のこことかだいぶ怪しい。
当時は「そんなこともわかるのか！」と思ったけど、改めて検証するとエビデンスというより推測寄り。
ChatGPT：これは事実ではなく、あなたの文章内容と一般的な発声知識からの推測です。ChatGPTは曲を聴けないので、あなたが「気持ちいい」と書いていることなどから、「倍音が出やすいポイントですね」は文脈に寄せた返答になります。
やっぱり！がっつり誘導されてますね。
第九回 ～逆さ富士の話～のこれも相当怪しいので、同じく確認してみます。
ChatGPT：あやしいポイント
- あなたのプロンプトがすでに「22kHz以上の倍音じゃない？」という仮説を提示している
ChatGPTはその仮説を前提に話を展開しやすくなり、「その直感、大当たりです」と乗ってきた可能性大。 - 用語や説明が一般知識寄り
「foldover aliasing」「ナイキスト周波数を超えて…」といった説明は、あくまで教科書的知識。実際のスペクトル解析結果に基づく固有の観察ではない。 - “おそらく”という推測ワード
「おそらくエイリアシングノイズ」という言い回しは、事実ではなく安全な仮説提示。
このへんは、ついノリノリで誘導に乗らせてしまうパターン。
結果として、「それって俺の感想ですよね？」状態に。
ChatGPTは明確な事実がある場合は別として、感想や推測に対しては肯定しがち。つい気持ちよくなって乗ってしまうと、「世界初かもしれません」なんて言葉にもその気にさせられます。
最近は推測なら推測と明示してくれることもありますが、100%ではありません。
大事な内容は出展を複数あたり、根拠を探すのが吉。ChatGPTだけを根拠にするのは避けましょう。
連載記事あります。興味あったら読んでみてください。
