AIとフェイク詐欺
『ソーシャルメディア利用率が世界で最も高い国の一つブラジルは、ディープフェイクが拡散されやすい環境であり、多くの有名人が被害に遭っている。
今年初め人気歌手アニータは、AIで作成した自分のアバターと対話する動画をソーシャルメディアで公開し「AIは私たちの特徴を盗む」と批判した。
有名なドラウジオ・ヴァレーラ医師は偽の薬を推奨して販売する動画をAIで作られ、拡散された。フォーブス誌やグローボなど現地メディアが報じた。
世界的にはスカーレット・ヨハンソン、テイラー・スウィフト、ミハエル・シューマッハ、ブラジル国内ではネイマール、エリアナ、アナ・マリア・ブラガ、イベッチ・ザンガーロ、マノ・ブラウン、ジャデ・ピコンら有名人がディープフェイク動画に悪用されている。
これら多くの有名人のディープフェイク動画は詐欺商品の広告に利用されるなどし、関連する犯罪が世界中で多発している。
犯人らは、顔だけでなく声なども偽造する技術を持ち合わせている。彼らは不正に収益を得るためにAI技術を利用し、ソーシャルネットワーク上で偽広告を拡散している。
その他、ネット上では、肖像権の悪用、偽の商品、金融詐欺など様々な偽情報の拡散が横行している。
AI（人工知能）専門家で、ブラジル最大級のオンライン学習プラットフォームのプロジェクトマネージャーを務めるファブリコ・カラーロ氏は「これらディープフェイク動画は、世論操作にも利用される可能性がある」と懸念点を挙げた。
さらに「ティーンエイジャーの間ではクラスメートを辱めるためにディープフェイクが作られている。また犯罪者達は、一般人を脅迫するために偽のコンテンツを作っている」と指摘する。
ブラジル最高の視聴率を誇るニュース番組「ジョルナル・ナショナル」のニュースキャスターのウイリアム・ボーネル氏もディープフェイク被害者の一人だ。
昨年10月、彼が特定の市議会議員を推薦する動画や、金融商品を薦める偽動画が詐欺師らによって拡散された。
これに対してボーネル氏は、「私はジャーナリストだから広告に出られない。だから、二つの大きな危険性がある。ひとつは商品宣伝に私が関わっていると思われること、もうひとつは政治的宣伝に、だ。人工知能を使って商品販売をシミュレートするなら、同様に政治家を売り込むのにも人工知能が使える。どちらも私が関われない分野で、私は犯罪被害を受けている」と話した。
被害は人物にとどまらず、銀行も標的にされている。
ブラジル経済社会開発銀行（BNDES）を狙った詐欺では、犯人がBNDES職員を名乗り、偽の広告費用請求書を送ったケースが発生している。
誰かが引き落とし詐欺に遭うと銀行の信用が一気に下がる。
BNDESのコンプライアンス担当のルイス・ナバーロさんは、「利用者はこのような詐欺を防げただろうと怒りを露わにしているが不可能なことだ。現在、関与した人物の名前開示を申請している。私たちは司法を通じて保障を求め続ける」と話した。
専門家は詐欺に遭わない為には、友人や家族から受け取った写真や動画、音声等の情報であっても「疑うこと」を勧めている。
次のような点に注意して、ディープフェイクを見極める実践的方法もあるという。
【目や口】体と音声や口の動きが一致せず、どこか不自然な動きになっている。
【光や影】不自然な明るさになっている。
【声や音声の質】本人の普段のイントネーションとどこか違いがあり、人工的に聞こえる。
【不自然な身体の動き】ジェスチャーや身体の動きにどこか不自然な点がある。
【センセーショナルなメッセージを疑う】詐欺師は視聴者にインパクトを与え、緊急性を訴えるセンセーショナルなメッセージを利用することが多い。
【信頼できる情報源か】怪しいと思う場合には、情報源を調べる、又は直接問い合わせして確認をする。』
SNSが一般的になっている南米ブラジルで、AIのディープフェイクが拡散されて、詐欺事件などに結び付いている。
宣伝広告と言うと、ドジャースの大谷翔平投手のように有名人の影響力で商品を売っていくというのが基本。
ところが今回のブラジルの詐欺ケースの場合、AIを使って顔や声も似ているので、一見本人だと誤解されやすい。
日本でも2019年のＮＨＫ紅白歌合戦に登場した「ＡＩ美空ひばり」がある。
故人である美空ひばりさんをAIで再現したものだが、賛否両論が起こった。
AI歌唱と明らかにしたうえで、美空ひばりさん声で新曲「あれから」を発売され、オリコンチャートでは週間演歌・歌謡シングル部門で1位を獲得するくらい人気が出た。
AIで実現不可能というものを再現に近づけ、それに勇気をもらったというメッセージもたくさん届いたらしい。
つまり、本物でなくても、AIで覚えさせた美空ひばりさんの声で人々が感動したということなのだ。
それを悪用したのがブラジルのフェイクニュースであったり、詐欺商品広告だったりする。
これは有名人にとっては、大きなリスクとなっている。
不正に収益を得るためにAI技術を利用し、ソーシャルネットワーク（SNS)上で偽広告を拡散しているが、肖像権の侵害などと言う生易しいものではない。
詐欺商品購入で酷い目にあった人は、例えAIでの詐欺事件だと後で知ったとしても、その人がテレビや本当の宣伝広告を行ったとしても、今まで通り見られないのではないだろうか。
その有名人の顔や声を聴くと、大金を失ったトラウマが蘇ったりもすることもあるだろう。
そうなると詐欺に使われた有名人は目に見えない膨大な損失を受けているとも言える。
人間は感情の生き物だ。
後で実は有名人本人は悪くなかったと頭ではわかっていても、実際は以前のように応援できなくなることが多いのではないか。
私がもっと心配しているのは、フェイクニュースやフェイク主張が国や世界を変えられる可能性もあるということ。
政治家を売り込むのにもAI（人工知能）が使えるのはほぼ確かだろう。
となると、本当は応援していない政治家であっても、SNSでフェイクニュースが拡散されることによって、当選させたり、落選させたりして、大統領選に影響を与えることもできるのだ。
アメリカの大統領選でも話題になったが、現代は他国が金をつぎ込んでロビー活動や妨害工作がしやすい時代になっている。 SNSのパワーで世論工作がたやすくなったから。
Twitterを買収して、Xにしたイーロン・マスク氏は単に儲かる企業を買ったのではなく、数値で測れないパワーがある言論のプラットフォームを手に入れたのだ。
実際、ルーマニアの大統領選挙で「泡沫（ほうまつ）」と目されていた無所属候補が、まさかの最多得票を獲得した事件があった。
それだけでも驚きだけど、当然不正が疑われ、実際、憲法裁判所はその投票結果を無効にして、選挙のやり直しを命じたのだ。東欧のルーマニアで実際に起きた事件だ。
また、それ以上に注目されたのが、泡沫候補の素性。
ルーマニアの大統領選挙でトップに立ったのは、無所属で出馬したカリン・ジョルジェスク氏で、極右かつ親ロシア派として知られた彼が200万以上もの票を集めたのだ。
ロシア・ウクライナ戦争でロシアとEUは鋭く対立し、かつての米ソ冷戦時代のようになっている。
ロシアは自国にEUの勢力が及ばないようにロシアがコントロールできる傀儡政権を打ち立てたかったのではないか。
今回のルーマニア大統領選挙は、明らかにルーマニアで泡沫候補と見られていた政治家だったから選挙の無効が宣言されたが、これが第2、第3候補であったらどうだろうか。
裏工作があったとしても、選挙は無効とならずに、そのまま大統領になるのではないだろうか。
自分の応援しない政治家を、悪評を流して落選させることもできる一方で、不正を暴く手段にもなりえる。
兵庫県知事選挙において、斎藤氏が不信任を受けた出直し選挙で再選されたのはSNSの力が大きかったと言われている。
当初テレビを始めとしたマスコミは斎藤氏に否定的なコメントが多かったので、一昔前だったら落選していたのではないか。斎藤氏の当選はSNSで支持が拡散した結果であろう。
SNSの影響力は年々増している。
そこにAIを使用したフェイクが混ざってくると、悪い意味で世論工作がたやすくなる。
この記事では最後に騙されない対策が書かれているが、残念ながらSNSでの主張やニュース1つ1つにそんなに時間をかける人はいない。
高額商品を買う場合にはもっと慎重になってもいいが、通常はなかなかそういうわけにはいかないだろう。
それに微妙な違和感はAIの急激的な発展スピードによって改善されていくだろう。
それを防止する為のAIデフェイクニュースを見分けるAIセキュリティなどが出てくるのだろうか。
いずれにしてもAI普及によって、どのような問題が起き、どういう危険性があるのかをしっかりと追っていかないといけないね。