メタ社、AIが作成した画像に業界共通のラベルを希望
2024年2月6日
Insider Paper
メタ社は火曜日、数十億人のユーザーと共有する人工知能が生成した画像をより適切に検出し、ラベル付けするための標準について、他の技術企業と協力していると発表した。
シリコンバレーのソーシャルメディア大手は、Facebook、Instagram、Threadsの各プラットフォームに投稿されたAIが作成した画像を識別し、タグ付けするシステムを数カ月以内に導入する予定だ。
メタや他のプラットフォームは、世界人口の半分を占める国々で今年選挙が予定されていることから、悪質な業者が偽情報を拡大させることを懸念し、AIが作成したコンテンツを監視する必要に迫られている。
「完璧ではありませんし、すべてをカバーできるわけでもありません。テクノロジーは完全に成熟しているわけではありません」とメタ社のグローバル責任者ニック・クレッグ氏はAFP通信に語った。
メタ社は12月以来、独自のAIツールを使って作成された画像に可視タグと不可視タグを実装しているが、「ユーザーが持つ透明性を最大化するために」他の企業とも協力したいとクレッグ氏は付け加えた。
「そのため、コンテンツの一部がAIを使用して作成されたことを示す共通の技術標準について、業界パートナーと連携してきました」と同社はブログ投稿で述べている。
これは、OpenAI、グーグル、マイクロソフト、Midjourneyや、黎明期のこの分野をリードするための熾烈な競争に参加している他の企業を含む、AIの標準化に関してメタがすでに協力している企業とともに行われると、クレッグ氏は述べた。
しかし、クレッグ氏によれば、企業がAIツールを使って作成した画像に「シグナル」を含めるようになった一方で、業界がAIを使って作成された音声や映像にそのような識別マーカーを入れ始めるのは遅れているという。
クレッグは、目に見えないマーカーを使ったこの大規模なラベリングによって、虚偽の画像が作られるリスクが「完全になくなるわけではない」と認めるが、「現在の技術で可能な範囲内で」虚偽画像の拡散を「確実に最小限に抑えることができるだろう」と主張する。
その一方でメタは、オンライン・コンテンツを批判的に見ること、それを投稿しているアカウントが信頼に足るかどうかをチェックすること、不自然に見えたり聞こえたりする細部を探すことを人々にアドバイスした。
政治家や女性は、いわゆる "ディープフェイク "画像の格好の標的となっており、スーパースターの歌手テイラー・スウィフトのAIが作成したヌードが、最近X（旧ツイッター）で流行した。
ジェネレーティブAIの台頭は、人々がChatGPTや他のプラットフォームを利用して、偽情報やAIのクローンによって政治的混乱を引き起こすのではないかという懸念を抱かせた。
OpenAIは先月、"政治団体や個人による我々のプラットフォームの使用を禁止する "と発表した。
メタ社はすでに、AIが政治広告の画像や音声の作成や改変に使われた場合、広告主に開示するよう求めている。
コンテンツモデレーションの決定を独自に審査する同社のOversight Boardは月曜日、ディープフェイクコンテンツに関するMetaのポリシーは緊急に更新する必要があると警告した。
警告は、AIで作成されたものではない、ジョー・バイデン米大統領の操作されたビデオに関する決定においてなされた。
理事会は、現状のメタ社のポリシーは "支離滅裂で、説得力のある正当な理由に欠け、コンテンツがどのように作成されたかに不適切に焦点を当てている "と述べた。