いま何かと話題の人工知能ChatoGPTですが、ちょっと使い方にご注意を、というお話。
ChatGPTは自治体でも使われるとか、ビジネスにも使えるとかいろいろ言われていますね。YouTubeなどをみても、ChatGPTをつかった副業、なんて動画が溢れています。
でね、今日ChatGPTの実力を確かめようと、こんなことを指示を出してみたんです。
「夏目漱石の小説”こころ”を1000文字程度に要約してください」ってね。
そうしたら、ちょっとだけ「こころ」に似た、全然違う話を語りだしたんですよ。要約を要約すると、以下です。
主人公は「先生」と呼ばれている「私」で、静岡に住む高校教師。彼の教え子の直子は幼少期に父親から虐待されていた。直子には「お金」という名前の妹がいるんだけど、「先生」は「お金」に好意を寄せるようになるも、恋愛関係になれないと悟る。そのうち「先生」の友人の川上が自殺。その責任を感じた「先生」も自殺を図る。
こんな話を「こころ」の要約だと言って示したんですよ。
ぼくは「こころ」が大好きで、もう何度も読み返しているので断言できるのですが、この作品はこんな話ではありません。そもそも、「こころ」には固有名詞が出てきません。登場人物は、私、先生、奥さん、お嬢さん、K。これだけです。ましてや「お金」なんて変な名前の女性なんて絶対に登場しません。また本作における「先生」は教師ではなく無職です。
こういうところがね、ChatGPTの危険なところだと思います。「こころ」を知らなかったら「知らない」と正直に言えばいいんですが、情報のカケラを寄せ集めて勝手に物語を作ったりするんですね。これが非常にやっかいです。こんなことをされたら、このデタラメ話を夏目漱石の名作だと思って信じ込む人も出てくることでしょう。
確かにChatGPTは便利なツールだし、使い方しだいによってはかなり役に立ちます。しかし、だからといってコイツのいうことを全部鵜呑みにするのは非常に危ないですね。
調べものがあるときは、できるだけChatoGPTに聞かず、できるだけ自分でいろんな情報源にあたってコツコツ調べるほうがいいでしょう。少なくとも、GPTの裏どりをするようにしたほうが安全です。
ちなみに、同じく対話型AIとして人気のあるBingにも同じことを聞いてみました。そうすると、こちらは出展の根拠となるサイトを示しつつ回答してくれたので、ほぼ正解でしたが、200文字くらいの要約して示してくれませんでした。
まあ、昔からバカとハサミは使いよう、なんて言いますが、ＡＩも全く同じですね。バカとハサミとＡＩは使いようってことだけど、盲信しちゃいけないってことです。
ChatoGPTをいろいろ活用しようと思ってる方は、充分お気をつけください。
ぼくの本は本当にぼくが書きました。