昨年はChatGPTなど生成AIがブームになりましたが、その熱狂も冷めてきたようです。
生成AIでは、よく著作物の無断利用、無断改変等が話題になりますが、ハルシネーション（幻覚）の問題も深刻です。
この記事では、エア・カナダがチャットボットの忌引き料金誤回答で賠償金を支払うはめになったこと、生成AIが作成した解雇合意書に重要な項目が欠落していたため、高額な和解金を支払うことになったことなどが紹介されています。
またプロモーション映像の中でGoogleのBardが「太陽系外の惑星を初めて撮影したのは、ジェームズ・ウェッブ宇宙望遠鏡である」という誤った主張を行った（実際にはヨーロッパ南天天文台がチリに建造したVLT）ため、Googleの株価は大幅に下落。たった1日で、時価総額が約1000億ドルも減少したという「事件」もあったそうです。
自分は専門家ですから、専門分野でChatGPTなど生成AIが嘘をついていればすぐにわかります。その結果、利用しなくなりました。
一方、専門知識がなければ、生成AIのハルシネーションに騙され、損害を被ることになります。
記事では、そもそも「自分たちではAIが間違えているかどうか分からない」という領域で生成AIを活用すべきではない。「生成AIは間違うものだ」という認識があれば、その間違いを発見するためのコストを事前に把握して、それが負担できない使い方であれば回避するという対応を取ることができる。とまとめています。
生成AIは自然言語処理技術という側面では優れていますが、言われるほど便利で有能なツールではないように思います。
【生成AI事件簿】顧客からの問い合わせに誤回答、社内規則や契約書類で重大ミス、大切な場面で失敗して評判失墜など
- 生成AIを活用する企業は増える一方だが、それとともに、AIの間違いによって損害を被る企業も増えている。
- エア・カナダはチャットボットの誤回答で賠償金を支払うはめに。別の企業は生成AIが作成した解雇合意書に重要な項目が欠落していたため、高額な和解金を支払わなければならなくなった。
- 企業に求められるのは、生成AIは間違いを犯すという前提に基づいた準備や行動。AIが間違えているかどうか分からない領域では活用すべきではない。
（小林 啓倫：経営コンサルタント）
チャットボットで損害を被ったエア・カナダ
企業内でのAI活用が加速している。社員や顧客と自然な言葉でやり取りできる生成AIが登場したことで、AIを応用できる業務が増え、具体的な成果も見えやすくなったためだ。
たとえば、カナダで1855年に設立され、現在では同国で最大の規模を誇るTD銀行（Toronto-Dominion Bank）は、コンタクトセンター業務に生成AIを活用したバーチャルアシスタントを導入することを発表した。
このバーチャルアシスタントは人間のアシスタントに代わって顧客への応対を行うとともに、顧客対応の効率化と顧客満足度の向上を図るため、必要に応じて顧客との会話内容を要約して人間のアシスタントにつなぐという。
同行はこの発表の中で、2023年にスタンフォード大学とマサチューセッツ工科大学（MIT）が共同で行った研究（「Generative AI at Work」）を引用し、コンタクトセンター業務へのLLM（大規模言語モデル、生成AIの頭脳となる技術）の導入について、既に効果があることが証明されているとしている。
同研究によれば、調査対象となった企業コンタクトセンターにおいて、1時間あたりに解決された顧客からの問い合わせ数が、平均で14％増加したそうである。
また初心者のアシスタントの業務効率アップに最も大きく貢献しており、LLM導入後、彼らは1時間あたり35％も多く顧客の問い合わせを解決することができるようになったとしている。
まさしく良いことずくめといったところだが、残念ながら同じカナダにおいて、つい最近気になる事件が起きている。
チャットボットの指示通りの対応をしたのにこの結果
2022年11月、カナダのブリティッシュコロンビア州に住むジェイク・モファットという人物が、バンクーバーとトロント間の航空券を購入しようとしていた。遠方に住む祖母が急に亡くなり、その葬儀に参列することになったのである。
そこで彼は、カナダ最大手の航空会社であるエア・カナダのホームページを開き、そこに設けられていたチャットボットに忌引運賃規定について問い合わせをした。エア・カナダは親族の葬儀に参加する利用者に対し、運賃を割り引く制度を設けていたためだ。
チャットボットは彼の質問に対し、「チケットの発券から90日以内に必要な書類を提出すれば、運賃の一部を払い戻す」と回答。ジェイクはそれを信じて、まずは翌日のバンクーバー発トロント行きのチケットを購入。さらに数日後、帰りの航空券も購入した。
そして、帰宅後すぐに要求された書類をエア・カナダに提出したが、ジェイクの申請を受けたエア・カナダは、「割引は旅行開始前に申請して取得しなければならず、旅行が完了した後の遺族割引は行わない」との方針を示し、この申請を却下した。
◎Airline Blames Passenger for Believing the Information on Its Website（Fodor’sTravel）
また、ジェイクが提出した証拠に基づき、エア・カナダに対して、返金額に加えて利息と訴訟費用も支払うことが命じられた。その額は合計で650.88カナダドル、日本円にして約7万4000円だった。