2026年10月9日付の毎日新聞が、
『沖縄戦巡る書籍で誤り、絶版に AI検索で採用の判例、存在せず』
と題した見出し記事を報じていました。
筆者も、訪問先組織の事業情報や関連業界の動向などは、生成AIを活用して、調べることが多くなりました。
ただ、初期の頃は、明らかにおかしなアウトプットがあり、いわゆるファクトチェックを出典を探してチェックしていました。
以下に、この記事を要約し、AIを活用したデータ検索と検索結果の妥当性検証について、考察しました。
《記事の要約》
＜生成AIが示した「架空の判例」を書籍に掲載 出版社が絶版・回収＞
出版社の高文研（東京都）は、2026年9月に刊行した書籍『無責任の体系と沖縄戦』に、生成AIによる検索で得られた実在しない裁判事例が掲載されていたとして、絶版・回収を決めた。購入者には返品を受け付け、代金を全額返金する。
問題となったのは、琉球大学の島袋純教授が執筆した全184ページの書籍。沖縄戦でスパイ容疑をかけられた住民の殺害に関する国際裁判の判例として、147～149ページに三つの事例が掲載されていたが、いずれも実在しないものだった。
高文研によると、島袋教授は国際犯罪裁判の記録を調べる際、生成AIを利用。検索結果を原資料と照合せず、そのまま書籍に採用したという。
誤りは、著者から献本を受けた知人研究者の指摘によって発覚した。
書籍は9月11日に200部が書店へ配本されていたが、実際の販売部数は把握できていないという。
高文研は9月24日付で公式サイトに謝罪文を掲載。著者と協議して絶版・回収を決定したことを明らかにし、今後は編集段階での事実確認を徹底すると説明した。
10月10日には、著者自身による経緯の説明と謝罪も追加された。
生成AIは膨大な情報を短時間で検索・整理できる一方、実在しない文献や判例を、もっともらしい名称や内容で示すことがある。
こうした現象は「ハルシネーション」と呼ばれる。
今回の問題は、AIが提示した情報の真偽を確認する手続きが、著者と出版社の双方で十分に機能しなかったことを浮き彫りにした。
研究成果や出版物の信頼性を守るため、一次資料による裏付けと編集段階での検証体制が改めて問われている。
（要約、ここまで）
《筆者の考察》
＜AIが示した「もっともらしい嘘」――検索結果を信じる前に何を確認すべきか＞
生成AIが示した架空の判例を、大学教授が実在するものとして書籍に掲載してしまった。
今回の問題は、AIを利用する研究者だけでなく、新聞記者、企業の担当者、専門家など、情報を扱うすべての人に共通する教訓を含んでいる。
生成AIの最大の魅力は、情報収集の速さだ。膨大な資料から必要な情報を探し、要点を整理し、比較する作業を短時間で支援してくれる。
しかし、AIが示す回答は、必ずしも事実を保証するものではない。
特に厄介なのが「ハルシネーション」である。AIは、実在しない判例、論文、法律、統計数値などを、もっともらしく提示することがある。
しかも、著者名、発行年、事件番号などの詳細まで付け加える場合があるため、利用者が本物だと思い込む危険性がある。
では、どうすれば防げるのか。
第一は、AIを「検索の案内役」と位置付けることだ。
AIに関連資料の候補を挙げさせるのは有効だが、判例なら裁判所や公的判例データベース、統計なら政府統計、法律なら官公庁の原文など、一次情報で確認する必要がある。
第二は、情報の存在確認と内容確認を分けることだ。
判例なら、事件名、裁判所、判決日、事件番号、判決本文を照合する。実在する判例でも、AIによる要約が判決の趣旨を取り違えている可能性がある。出典のURLが付いていても、それだけでは証拠にならない。
第三は、重要情報の複数人による検証である。
著者が調べ、編集者が確認し、必要に応じて専門家が査読する。
今回、知人研究者の指摘で誤りが発覚したことは、第三者の目がいかに重要かを示している。
第四は、確認記録を残すことだ。
AIに何を質問し、どの資料を参照し、誰が、いつ、何を確認したかを記録する。
誤りが発覚した際の原因分析や訂正にも役立つ。
米国国立標準技術研究所（NIST）も、生成AIのリスクとして、誤った内容を自信ありげに示す現象や、架空の引用を挙げている。
AIの精度が向上しても、誤情報の危険性が消えるわけではない。
さらに注意したいのが、確証バイアスである。自分の考えに合う情報ほど疑わず受け入れてしまう傾向は、誰にでもある。
ただし、今回の著者が実際にその影響を受けたかどうかは、証拠なしに断定できない。
また、架空の判例が存在しなかったことと、沖縄戦に関する歴史的事実の真偽は別問題だ。
誤った引用は訂正しつつ、歴史そのものは独立した証言や史料によって検証しなければならない。
ISO思考でいえば、AIによる検索結果は未検証の入力情報である。
情報源の確認、内容の照合、第三者レビュー、承認というプロセスを経て、初めて公表に耐える情報となる。
AIが答えを出す時代だからこそ、人間には「その答えは本当か」と問い続ける能力が求められる。
AIを使いこなすとは、速く答えを得ることではなく、正しい答えを見極めることである。
【好評発売中！】
『サービス業のISO（設計・環境側面・危険源・気候変動）』（令和出版）2025年4月30日発売
『～マーケット・クライアントの信頼を高めるマネジメントシステム～ サービス業のISO （設計・環境側面・危険源・気候変動の実践ガイド）』 著：有賀正彦 - 令和出版
『できるビジネスマンのマネジメント本』（玄武書房）
https://www.amazon.co.jp/dp/4909566066/
【よかったらメルマガ読者登録お願いします♪】↓
（パソコンでアクセスしている方）
http://www.mag2.com/m/0000218071.html
（携帯でアクセスしている方）
http://mobile.mag2.com/mm/0000218071.html
Twitter：https://twitter.com/ariga9001