#ニュースを見て不安に思うこと　日本のディープフェイク対応は？都知事選で明らかになりますね

日本のディープフェイク対応は？

都知事選で明らかになりますね

「バイデンvs.トランプ」の大統領選を控えるアメリカで進む「ディープフェイク対策」…日本でも求められる「選挙管理委員会」の備え（小林啓倫） @moneygendaiつい先日、EUで世界初となる包括的なAI規制法「AI法（AI Act）」が成立した。同法は既にEUの議会等を通過していたのだが、5月21日に加盟各国に承認されたことで、正式に成立する運びとなったのである。

gendai.media

つい先日、EUで世界初となる包括的なAI規制法「AI法（AI Act）」が成立した。同法は既にEUの議会等を通過していたのだが、2024年5月21日に加盟各国に承認されたことで、正式に成立する運びとなったのである。ただ本格的な施行は2年後の2026年となり、EU各国や規制対象となる域内の企業等は、それまでに各種対応を進めることが求められている。
AI法のポイントのひとつが「ディープフェイク」、すなわち生成AIで生み出された画像・映像に関して求められる対応だ。ご存知の通り、技術の進化によって、ディープフェイクは現実と見分けがつかないほど精巧なコンテンツを生み出せるようになった。そこで同法では、「ディープフェイクコンテンツを使用する場合、そのコンテンツがAI生成であることを明示すること」という規定を設けたのである。また明示的な義務ではないものの、ディープフェイクコンテンツのトレーサビリティを確保する、つまり後から特定のコンテンツがディープフェイクかどうかを検証可能にするために、「電子透かし」（人間の見た目には分からないものの、特殊なソフトウェアを使って確認することで、そのコンテンツがAIによって生成されたものかどうかチェックできる「しるし」を埋め込む技術）の仕組みを導入することを提案している。

還暦の私レベルでも、以下のような動画（ここではスクリーンショットの画像です）が、簡単に作れる世の中です。

※TikTokのAI生成動画機能で作成

そこで、「”ディープフェイク” “選挙” “対策”」という完全一致のワード群で、Google検索してみました。

うむむー(꒪⌓꒪ )

この検索結果を見る限り、現在の日本の選挙において、なんらかの「ディープフェイク」対策がなされているようにはまったく思えません。

「機密事項なので国民には関係ないことだ！」とかで、隠しているだけならいいんですけど…。

マジで大丈夫なんですかね？

そんな中、米アリゾナ州の選挙管理委員会が、興味深い取り組みを行っている。それは選挙戦中でディープフェイクによる攻撃が行われた場合を想定した、一種のセキュリティ訓練だ。
ご存知の通り、米国は2024年、大統領選を控えている。今回はバイデンvs.トランプという、4年前の戦いの再現となったこともあり、いつにも増して注目度が高い。当然ながらディープフェイクの悪用が予想されており、それに対処するために、実際の攻撃を想定した訓練が実施されたというわけである。
これはアリゾナ州の州務長官アドリアン・フォンテスが主催したもので、ニューヨーク大学のブレナン司法センターなど関連組織・団体からの協力を得て実施された。同センターの報告によれば、訓練にはアリゾナ州の14の郡から選挙管理者やIT担当者、法執行機関、緊急管理サービスが参加し、さらにCISA（アメリカ合衆国サイバーセキュリティ・社会基盤安全保障庁）など連邦政府の関連組織も同席。そして2日間かけて、AIが生成した偽メールや音声、画像（州選挙セキュリティオフィスから送られたように見えるフィッシングメールや、偽の裁判所命令を指示する音声ディープフェイクなど）を使用し、選挙管理者がどのように対応するかの練習を行った。訓練の各日の終わりには、参加者が学んだ教訓や追加の準備ステップについて話し合う、デブリーフィングも行われたそうである。

ほほー、さすがですねー。

CISA（Cybersecurity and Infrastructure Security Agency、米国サイバーセキュリティ・社会基盤安全保障庁）も同席したとのことなので、かなり本格的な訓練だったと思われます。