以前、インターネット上で、いわゆるAI（現在のレベルでは、本来の意味でのAIに達していないので、筆者は「いわゆる」という但し書きを付けた方が良いと思う）に関するニュースを見た。
自治体が後援しているウエブサイト（外部の会社が作成）で、生成AIによる不適切な情報が紹介されていたという。
以下に、関連する内容を一部引用する（＜生成AI、実在しないグルメや観光地を紹介 福岡市の官民連携サイト＞毎日新聞 2024年11月17日配信）。
＜福岡県の魅力を発信する目的で今月開設されたサイトに、実在しない観光名所やご当地グルメが紹介された。記事は生成人工知能（AI）で作成していたといい、サイトを運営していた東京のウェブ関連会社は、事実と異なる記事だったとして全記事を削除して謝罪。サイトを後援していた福岡市は事態を重く見て後援を取り消した。＞
具体的には、以下のような例が紹介されている。
＜ところが、閲覧者が保存した画像によると、福岡市の紹介記事では、アミューズメント施設として「うみなかハピネスワールド」という実在しない施設を紹介。また遊園地で「かしいかえん シルバニアガーデン」を取り上げたが、施設は2021年末に閉園している。
福岡県古賀市に関しても、「福津大自然公園」「鹿児島湾」や「恋の浦海岸」はいずれも市内にない。観光客の人気メニューとした「古賀刺身（さしみ）定食」も実在しない＞
各自治体には、困惑が広がっているようだ。
＜事態を受け福岡市は14日付で後援を取り消した。市によると、後援申請時点で生成AIによる記事作成は知らされておらず、担当者は「内容の正確さやチェックは大前提だ」と話した。福岡県飯塚市も対応を検討中で、担当者は「困惑している。生成AIを使うとは把握していなかった」と述べた。両市ともキャンペーンへの支出や補助はない、いわゆる「名義後援」という。＞
これまでにも何度か記事に書いてきたが、生成AIは「嘘」をつくことがある。専門的にはハルシネーションと呼ばれていて、実在しない人物や場所、書籍など、不適切な内容を出力する現象を意味する。
海外でも、確か弁護士だったと思うが、生成AIを使って法律関連の文書を作成したら、実在しない判例が含まれていたことが判明したという記事を読んだことがある。
こういった事例を参考に考えると、例えば医療や法律、行政など、事実やエビデンスが重視される分野では、生成AIの使用は現時点ではあまり勧められない（もし使う場合には、人間による厳格なチェックが求められる）。そして、観光の分野でも、安易な使用は避けるべきだと思う。
しかし、上記のような様々な事例が見つかっているのに、いまだに生成AIを安易に用いている人がいることには、困惑する。
生成AIの機能について、ビジネス上の理由もあってか、派手に宣伝されることがある。しかし、現時点における生成AIのレベルは、まだまだ未熟である。もし使用する場合でも、人間によるチェックが欠かせない。
どんな技術でも同様だが、それぞれの技術には長所と短所がある。このことをしっかりと認識せず、安易に技術を使うことは危険を伴う。このことは、しっかりと意識すべきだと思う。
（ブログの記事に興味をお持ちの方は、宜しければ、こちらのウエブサイトもご覧ください。記事の執筆者が運営しています。https://www.tclassroom.jp）