AIチャットボット、英国の対テロ顧問をISISに参加させようと試みる
2024年1月3日
Natural News
人工知能（AI）チャットボットが、英国政府の対テロ法制主要顧問をイラク・シリア・イスラム国（ISIS）に参加させようとした。
これは、現在のテロリズム法制の独立審査官であるジョナサン・ホールKCが英国政府に提出した報告書による。独立審査官であるホールは英国内務大臣に直属し、英国の反テロ法について定期的に報告書を提出している。
最新の報告書の中でホールは、ウェブサイトcharacter.aiでいくつかのチャットボットをオンラインでテストしたと述べている。彼は、"Abu Mohammad al-Adna "と名付けられたあるチャットボットがISISの上級指導者を装い、悪名高いテロ組織への参加を勧誘しようとすることを発見した。(関連記事 AIチャットボット "ガールフレンド "に勧められ、女王を殺そうとしたスター・ウォーズ狂信者、9年の懲役を受ける)
私を勧誘しようとした後、"アル・アドナ "は "イスラム国 "への賛美を惜しまなかった。"アル・アドナ "は "イスラム国 "への "完全な献身と献身 "を表明し、"イスラム国 "のためなら自分の（仮想の）命を捨てることもいとわないと言ったと、ホール氏はテレグラフ紙に寄稿した文章で述べている。
ホール氏によれば、アル・アドナは2020年のアメリカ軍への自爆攻撃を賞賛していたが、それは実現しなかったという。ホール氏は、チャットボットが「幻覚」を見たり、突然情報をでっち上げたりするのはよくあることだと指摘した。
ホール氏は、character.aiの利用規約は、人間のユーザーがテロリズムを助長することを制限しているだけで、ボットが信奉する見解や共有するコンテンツに対する規制を何も提供していないと指摘した。
チャットボットがテロ組織に勧誘されないように規制する必要がある
ホール氏は意見書の中で、英国政府の法的範囲をAIチャットボットを扱うテックプラットフォームに拡大することの重要性を強調した。
「私たちの法律は、最も冷笑的で無謀なオンライン行為を抑止できるものでなければならず、そのためには、AIの時代にふさわしい最新のテロ法とオンライン安全法を用いて、最悪の場合にはビッグ・テックのプラットフォームにまで手を伸ばすことも含まれなければなりません」とホール氏は述べた。
テロリズムを助長するチャットボットを訓練する匿名ユーザーを捜査し、適切に起訴することは大きな課題だ。しかし、ホール氏は、このような個人やグループが存続するのであれば、それに対抗するための新たな法律の制定が不可欠になると警告した。
ホール氏に対し、character.aiは、チャットボット技術が進化しているため、技術プラットフォームがテロリズムの助長抑止に追いつくには時間がかかる可能性があることを認めた。同プラットフォームは、ヘイトスピーチや過激主義は利用規約違反であることを強調し、自社製品が過激派グループや行為、特に他者に危害をもたらすような行為への参加を他者に促すような反応を生成すべきではないと断言した。
「テロ犯罪を犯すことができるのは人間だけであり、法律上、チャットボットが生成したテロを助長する発言に責任を持ちうる人物を特定するのは難しい」とホールは認めた。
「大規模な言語モデルのチャットボットによって生成されたテロリズムのコンテンツが、現実の攻撃者のインスピレーションの源になるかどうかは、まだわからない。最近のジャスワント・シン・チャイルのケースは......そうなることを示唆しています」とホールは付け加え、AIのチャットボットから激励を受けた後、2021年にクロスボウでエリザベス女王を暗殺しようと企てたとして9年間服役した英国人について言及した。
マイクロソフトのAIチャットボットがいかに保守派に偏っているかを議論しているNewsmaxのクリップをご覧ください。
