先日のAIを使った事件について

先週こちらで載せていた、

電話に出ると「ママ、助けて！」と娘の悲鳴、実はAIによるクローン音声で仕掛けられた偽装誘拐だった【だまされないように注意！】

↑こちらの事件。

日本でも「オレオレ詐欺」など、電話口で相手に名乗らせ身内を装い詐欺をする事件が多い中、

近年AI技術を悪用した詐欺も、外国では増えてるようです。

上に載せた記事も、お母さんの携帯に娘さんの声で助けを求めるものでした。

泣きながら「助けて」なんて子供に言われると、取り乱しますよね…。

こちらのお母さんも取り乱しましたが、ほかの方が一緒に居たことで

この誘拐が偽装だと気付けました。

まずは本人に連絡を取る、一人で悩まないが大事ですが

なかなか難しい事ですね。

そしてなぜ犯人は娘さんの声で電話ができたのか。

犯人は音声合成AIを使用して、SNSで拾った娘さんの声から音声を作っていたそうです。

音声合成AIを使用すると、たった3秒の声から感情のトーンなどを再現した人の声を合成できることが可能になっています。 

SNSも便利ですが、使い方によっては大変な事件に巻き込まれる事を頭に入れておいた方がいいですね。