生成AIが進化することはいいことかもしれませんが、それを利用して詐欺が進化することはいただけません。つまり、これまでの詐欺が持っていた『不自然さ』が消え、さらに大量に高速で行われるようになるということです。
現在、AIは単なるツールではなく、詐欺の「自動実行エンジン」として悪用されています。具体的にどのように進化しているのか、具体例を見てみましょう。
1. 「違和感」のない精巧ななりすまし
かつての詐欺は、不自然な日本語や、画質の粗い写真など「どこか怪しい」部分で見抜くことができました。しかし、生成AIはその壁を完全に払拭しました。
例えば、昔は、「貴様のアカウントは凍結されました。ここを叩いてください」といった、機械翻訳のような不自然な日本語がありました。
今は、本物の銀行や役所と見分けがつかない、完璧な敬語と文脈ですし。さらに、過去のメールのやり取りを学習し、その人特有の口癖まで模倣した「ビジネスメール詐欺」が急増しています。
また、音声や映像の進化したディープフェイクが存在します。例えば、わずか数秒の本人の音声サンプルから、「声のクローン」を作成します。
次に、親族を装って「事故に遭ったから送金して」と電話するオレオレ詐欺や、Web会議に上司の顔と声で現れ、部下に不正送金を指示するのが現実化しています。
2. 「数」の暴力の進化
人間が1人ずつ騙していた時代から、AIが数千人を同時に、かつ個別に対応する時代へ進化しました。例えば、SNSで「ロマンス詐欺」を仕掛ける際、これまでは詐欺師が手動でメッセージを返していました。
現在は、AIボットがターゲットのプロフィールを分析し、相手の趣味や感情に合わせた「甘い言葉」を24時間365日、数万人に対して同時に送り続けます。
3. 「標的型」の情報の武器化
SNSや公開されている情報をAIが分析し、あなただけに最適化された「罠」を仕掛けてきます。例えば、あなたがSNSに投稿した「旅行の写真」や「最近の悩み」をAIが読み取ります。
その結果、「その旅行先でのトラブル解決」や「その悩みに特化した投資話」を、もっともらしいタイミングで提案してきます。
とにかく、生成AIは、不自然、誤字脱字が多かったものが、完璧な日本語を使い、自然な対話をしてきます。私たちが今、気をつけるべきこととして、AI詐欺の恐ろしい点で、自分の目と耳が信じられなくなるところにあります。
防衛のポイントを知っておくべきです。家族や上司から急な送金依頼が来たら、一度電話を切って、自分が知っている番号にかけ直すことです。また、デジタルでは偽装できないように、家族間だけの秘密の合言葉などを決めておきます。
それから、AI詐欺は常に「今すぐ」とか、「秘密で」と判断力を奪おうとします。AIによる詐欺は日々巧妙になっています。
もうディープフェイク技術は、「本物と見分けがつかない」レベルに達しており、特に「リアルタイム性」と「権威の悪用」を組み合わせた手口が猛威を振るっています。
その一つが、有名人を悪用した「偽投資広告」です。Facebook, Instagram, YouTubeなどで最も頻繁に見かける手口です。
手口としては、著名な実業家やタレントを語って、動画で「絶対に儲かる投資法」を勧めてくるものです。AIの進化によって、かつては静止画でしたが、現在は本人の声と口の動きを完全に再現した動画が使われます。
また、ニュース番組のキャスターがその投資法を報じている「偽ニュース映像」とセットで拡散されるため、信じてしまう人が後を絶ちません。
ニセ警察官や役人を装って、ビデオ通話の詐欺が、急増している極めて悪質な手口です。例えば、「あなたの名義が犯罪に使われている」と電話があり、その後LINEなどのビデオ通話に誘導されます。
騙されるはずです、画面越しに現れるのは、精巧に作られた制服着用警察官の姿です。背景も警察署の取調室のように偽装されています。
「顔を見て話している」という安心感と、「逮捕される」という恐怖心を同時に与え、資産を守るためと称して偽の口座に送金させます。
ビデオ会議への「役員なりすまし」というのもあります。主に企業を標的とした「ビジネスメール詐欺」の進化版です。Web会議に、上司や本社の責任者が参加してきます。
犯人はリアルタイムで、自分の顔と声を役員のものに変換して会議に参加します。「極秘の買収案件がある。今すぐこの口座に送金してくれ」というような指示を出します。
実例があります。香港の多国籍企業で、自分以外の参加者全員がディープフェイクだったという事件が発生し、約38億円の被害が出ました。
先に説明が少しありましたが、音声クローンによる「シン・オレオレ詐欺」です。電話だけで完結するため、高齢者だけでなく全世代がターゲットになります。
息子や娘、あるいは孫から「事故を起こした」とか、「携帯をなくして同僚の電話を借りている」と電話がかかってきます。SNSなどに投稿されている本人の動画から数秒の音声を抽出し、「本人そっくりの声」をAIで生成します。
この特徴は、泣き声や焦った口調まで再現できるため、家族であっても電話越しに偽物だと見抜くのは非常に困難です。
最後に、「画面に映っている顔や声は、本人である証明にならない」、という前提で動く必要があります。特に「お金」や「個人情報」が絡む話が出た瞬間に、一度冷静になって通信を切る勇気が最大の防御になるかと思います。