ある資料を作成中に、分数を使って0.0002を「ｘｘ分の１」として説明すると理解し易いので、その様に表現しようと思ったのだが、0の数を間違えると一桁狂ってしまうので、念の為に生成AIで確認したところ、同じ質問に対してGoogleのGeminiとOpenAIのChatGPTでは、全く違う答えが出てきた。
Geminiの回答
Chat GPTの回答
どちらが間違っているのかは一目瞭然なのだが、微妙なニュアンスなどではなく、数字ではっきりと違う答えを出す事が分かったので、少し遊んでみることにした。
それぞれの回答が出てきた後、まずChat GPTに「Geminiは2000分の1と回答してきたよ」と書き込むと、「それは間違いで、5000分の１です」と回答が来る。
一方、Geminiが「2000分の１」と答えた直後に、「ChatGPTの回答は5000分の1だったよ」と書き込む。すると、Geminiは「2000分の１が正しい」と主張してくる。間違いを認める気はなさそうだ。
そこで、一旦質問を終了し、新たに「ChatGPTの回答は5000分の1だが、この回答は正しいか？」と書き込むと「ChatGPTの回答は正しい」と答えてくる。以前の回答については全く無関係に、異なる回答するのだ。つまり、計算結果について2つの回答を出してくるということになる。
Geminiの二回目の回答
AIは膨大な知識を基にして回答するのであり、自分で考えるのではないことは知られているが、この例の様に何のためらいもなくウソをつくことがあるので、AIの回答についてはそのまま鵜呑みにせず、検証することが大切な様だ。
こちらからの質問に曖昧な言い方などがふくまれると誤解が生じ、自ずから回答も不明瞭になることはありそうだが、今回の様に簡単な計算を求めた場合の回答はたった一つの解しかないのだが、そこで間違った答えを出すことがある、ということは理解しておくべきだろう。
生成AIは自分で考えるのではなく、飽くまでも自分が得た情報を組み立ててそこから回答を出すので、情報に誤った情報が含まれている場合などでは、ミスリードがあってもおかしくはないのだが、人は自分の思い込みと同じ回答を生成AIから得ると、その答えを疑うことなく盲信してしまうことはありそうだ。
今回の質問の様な場合であれば笑い話で済むものの、人命にかかわることや裁判などに生成AIを利用する場合はいわずもがな、生成AIからの回答に対してはある程度猜疑心を持ち、他の生成AIによる「セカンドオピニオン」も多いに活用する必要がありそうだ。