MIT Tech Review: 生成AIの脅威は杞憂だった？ 欧州選挙で見えた意外な現実 (technologyreview.jp)
メリッサ・ヘイッキラ [Melissa Heikkilä]
米国版 AI担当上級記者
「MIT Tech Review: 生成AIの脅威は杞憂だった？ 欧州選挙で見えた意外な現実」がちょっと面白い。
「生成AIによる偽情報やディープフェイクが選挙の結果に影響を及ぼすことが懸念されているが、最新の研究によると現時点ではその心配はなさそうだ。だが、将来的に影響を与える可能性は依然としてあると研究者らは指摘する。
・AIによる偽情報は今年の欧州の選挙結果に大きな影響を与えなかった
・AIは既存の見解を強化し政治家への嫌がらせや混乱を引き起こすのに効果的
・政治家による生成AIの秘密裏の利用は政治プロセスの整合性を脅かす可能性」
「懸念は杞憂だったようだと、今回の研究を実施したアラン・チューリング研究所（Alan Turing Institute）のサム・ストックウェル研究員は言う。ストックウェル研究員は2024年5月から8月までの4カ月間、3つの選挙に焦点を当て、AIの悪用に関する公的な報告書やニュース記事のデータを収集した。英国の総選挙中に拡散したAIによる偽情報またはディープフェイクの事例を16件、欧州連合（EU）およびフランスの選挙で事例を合計11件特定したが、いずれも結果を明確に左右するものではなかった。偽のAIコンテンツは、国内の当事者とロシアなどの敵対国とつながりのあるグループの両方によって作成されていた。」
「AI生成コンテンツは、今年これまでのところ、ほとんどの欧州の選挙では、デマ拡散ツールとしては効果的ではなかったようだ。これは、デマにさらされた人々の大半が、その背後にあるメッセージ（例えば、自国への移民が多すぎるというような）をすでに信じていたためだと、ストックウェル研究員は言う。ストックウェル研究員の分析によると、ディープフェイク・メッセージを積極的に再共有して拡散していた人々は、その内容と一致する何らかの団体と関わりがあったか、同じような意見をそれまでに表明していた。そのため、このような材料は、投票先を決めていない有権者に影響を与えるというよりも、既存の見解を強化した可能性が高い。」
「ボットによるコメント欄の大量投稿や、インフルエンサーを悪用した偽情報の拡散など、十分に試行を重ねた選挙干渉戦術は、依然としてはるかに効果的であった。悪意のある行為者の多くは、ニュース記事を自分たちに都合が良いように書き換えるため、あるいは、デマ拡散を目的にしたオンライン・コンテンツをさらに作成するために、生成AIを使用していた。」
「恐らくより心配なのは、人々が選挙の文脈において、本物とAI生成コンテンツの違いを識別できなくなっていることが研究で示されていることだと、ストックウェルは言う。政治家もそのことを利用している。たとえば、フランスの欧州議会選挙の政治候補者たちは、AIで生成されたコンテンツを共有し、反移民のナラティブを増幅しているが、そのコンテンツがAIで生成されたものであることを開示していない。」
Artur Widak/NurPhoto via AP
小松 仁