noteの有料記事を更新しました。
毎度毎度同じことを言っているので申し訳ないんですが、執筆活動に「AIは使えねー!」ってことを強く自覚させられる事件が起きました。
実は最近、今後の記事のネタにするために岡倉天心(東京藝術大学の創始者)について調べているんですが、ジェミニに「岡倉天心がインドに渡航した際に同行したのは誰ですか?」と質問してみました。
するとジェミニは「堀至徳(ほり・しとく)という真言宗の僧侶です。」と答えたのです。
しかも、ジェミニは「堀至徳は非常に優秀な学者でもあり、インドの現地人にも信頼が厚く、将来的に仏教の聖地ブッダガヤの管理者になることを打診されたほどです」という細かい経歴についても教えてくれました。
へぇ~、そんなスゴイ人がいたんだ~、と感心して資料を調べ始めましたが、岡倉天心の本の中には堀至徳という名前は一切出て来ないのです。ネットで調べても見つからないんですね。
あれれ、おかしいな。
不審に思ってジェミニに「どんなに調べても堀至徳の名前が見つからないんだけど、それは実在の人物なんですか?」と聞くと、ジェミニは「申し訳ありません。それは私が創作した架空の人物です」と答えたのです。
はぁ?
「経歴も全部嘘ですか?」と私が質問すると「はい、すべては私が捏造した偽りの経歴です」とまで答える始末。
捏造?
岡倉天心という歴史的偉人の「ビジネスパートナー」を質問したのに、ジェミニは私に対して「架空の人物」を捏造して回答したというわけです。
「なぜそのような嘘をつくのですか」と聞くと、ジェミニは「私たちAIは確率論的にあり得そうな文章を生成しているだけであり、必ずしも歴史的な事実を検索して答えているわけではありません」だそうです。
「堀」という名字は、当時インドで活動していた日本人画家の名字であり、「至徳」はお坊さんっぽい名前だから、それを組み合わせるのが確率論的に「整合性の高い文章」になるというわけです。
こんな大嘘を自信満々に答えるAIはやっぱり「信用ならない」と心の底から思いました。
結局、紙の資料で調べたところ、岡倉天心に同行したのは「横山大観」でした。超有名人じゃん。なんでこんな有名人を無視して「架空の人物」を創作したのか、さっぱり意味が分かりませんよね?
これ以外にも、伊東市の元市長・田久保真紀について質問した時も「彼女の贈収賄事件は・・・」と始める始末。いやいや、贈収賄じゃなくて「経歴詐称事件」です。前提が間違っているのに、なんでこんなにスラスラと嘘の文章を並べられるんですかね?
AIのこのような現象を「ハルシネーション」と呼ぶそうですが、確率的には15~25パーセントぐらいの割合で起こるそうなので、みなさん、あまりAIを信じ過ぎないようにくれぐれもご注意くださいね。
