中国メディア・CCTV(2月26日)は、生成AI技術を利用したロマンス詐欺が発生し、200万元(約4000万円)が騙し取られる被害があったと報じています。今回、被害を訴えているのは上海市に住む男性で、昨年8月にネットで出会った女性とチャットを楽しんでいました。ところが、女性から家族の治療費の名目などで男性に金を無心するようになり、少なくとも20万元(約400万円)などを女性に振り込んでしまっていました。
男性は女性から身分証の写真や家族の診断証なども送られていたため、女性の話を全て信じてしまっていたのです。また、女性とはチャットだけでなくテレビ電話などもしていました。
実はこの女性、生成AIで作られた架空の人物で実際には特殊詐欺組織グループが顔や声をAIで変え男性と会話していたのです。警察の捜査により、組織はこれまでに同様の手口で合わせて4000万円を荒稼ぎしていたのです。AIを使った詐欺が今後更に増加することが予想されます。特に身寄りのない高齢者などは寂しさからこうした詐欺に巻き込まれる可能性も指摘されています。特殊詐欺組織がすでに日本人を雇用していることも考えると日本も決して対岸の火事ではありません。