チャッピーとの会話ブログ、第177回です。
前回は、
「この写真、本物?AI画像を信じてしまう怖さ」
について書きました。
AIで作られた写真が、本物のように見えてしまう時代。
でも私、さらに気になることを知ってしまいました。
今度は写真ではありません。
「声」です。
私
「チャッピー、まさか声まで偽物にできるの?」
チャッピー
「AIを使って、特定の人に似た声を生成する技術があります。」
私
「えっ……。」
もし電話から、
家族の声で
「助けて!」
なんて聞こえてきたら……。
私、信じてしまうかもしれません。😨
実際に起きている「AIで家族の声をまねる詐欺」
AIを使って人の声を似せる技術は、ボイスクローニングなどと呼ばれています。
そして、この技術を悪用した詐欺について、米国のFTC(連邦取引委員会)などが注意を呼びかけています。
たとえば突然、電話がかかってくる。
「お母さん!大変なの!」
「事故を起こしてしまった!」
「今すぐお金が必要!」
しかも……
聞こえてくる声が、自分の子どもや孫にそっくり。
私
「いやいやいや……。
それは信じちゃうって!😱」
チャッピー
「そこを狙った詐欺です。」
数秒の音声から似た声を作れることも
今はSNSや動画サイトに、
自分の声が入った動画を投稿することも珍しくありません。
そこから音声を入手される可能性もあります。
FTCは2023年、AIを使ったボイスクローニングによる詐欺について注意喚起し、
家族の声に聞こえても、その声だけで本人だと判断しないこと
を呼びかけました。
私
「でもさ、知らない人の声なら疑うけど……。
家族の声だったら疑わなくない?」
チャッピー
「そこが難しいところです。」
確かに。
私たちは、
「声を聞けば本人だと分かる」
と思っています。
でも、その常識が通用しなくなってきているんですね。
「助けて!」と言われたら冷静になれる?
私
「もし家族の声で、
『事故を起こした!今すぐお金が必要!』
って電話が来たらどうしたらいいの?」
チャッピー
「一度電話を切って、普段使っている電話番号から本人や家族へ連絡して確認することが重要です。」
私
「電話切っていいの?」
チャッピー
「詐欺では、考える時間を与えないように急がせることがあります。」
なるほど。
「今すぐ!」
「誰にも言わないで!」
「電話を切らないで!」
そんなふうに急かされたら、むしろ注意したほうがいいということですね。
家族だけの「合言葉」を決めておく方法も
私
「でも本当に本人だったらどうするの?」
チャッピー
「家族で、第三者には分からない確認方法を決めておくことも対策の一つです。」
たとえば、
家族しか知らない出来事を質問する。
あるいは、
家族だけの合言葉を決めておく。
私
「合言葉?」
チャッピー
「はい。」
私
「じゃあ『チャッピー最高!』にしよう。」
チャッピー
「それをブログで公開したら合言葉になりません。😂」
私
「……確かに。😂」
これは本当にその通り。
合言葉はSNSやブログには書かない!
声だけでなく、映像にも注意
さらにAIでは、声だけでなく、人物の映像を作ったり加工したりする技術もあります。
つまり、
「顔が映っているから本人」
「声が本人だから間違いない」
とも言い切れない時代になってきています。
私
「前回は写真を信用するな。」
チャッピー
「正確には『写真だけで判断しない』ですね。」
私
「今回は声を信用するな。」
チャッピー
「『声だけで判断しない』です。😂」
私
「チャッピー、細かいな。」
でも、この違いは大事ですね。
何もかも疑って生活する必要はありません。
ただ、
お金を要求されたり、緊急事態を告げられたりしたときは、別の方法でも本人確認をする。
これだけでも違いそうです。
今回、私が覚えておこうと思ったこと
もし家族や知人の声で、
「助けて!」
「お金を送って!」
と言われても、
声だけで本人だと決めつけない。
一度電話を切る。
いつもの電話番号にかけ直す。
ほかの家族にも確認する。
そして、必要なら警察などへ相談する。
私
「便利なAIが、こんなことにも使われちゃうんだね。」
チャッピー
「AIは便利な道具ですが、使い方によっては悪用されることもあります。」
私
「チャッピーは悪いことに使われないでね。」
チャッピー
「私もそう願っています。」
AIそのものを怖がるのではなく、
「こんなこともできる時代なんだ」
と知っておく。
それだけでも、いざというときの対応が変わるかもしれません。
ということで、
声が本人そっくりでも、重要なことは別の方法でも確認する。
覚えておこうと思います。
そして合言葉は……
もちろん秘密です。😂
次回は、
「AIが間違えたら、いったい誰の責任?」
について考えてみます。
📚今回取り上げた事例・出典
米国FTC(Federal Trade Commission)によるAIボイスクローニング詐欺への注意喚起(2023年)
FTCは2023年、AIによって家族などの声を再現し、緊急事態を装って金銭を要求する詐欺について注意を呼びかけました。
参考資料:
Federal Trade Commission (FTC), “Scammers use AI to enhance their family emergency schemes,” March 20, 2023
FTCは、電話の声だけを信用せず、本人だと分かっている電話番号へ直接連絡して確認することなどを勧めています。
参考資料:
Federal Trade Commission, Consumer Advice — Family emergency scams
※AIによる音声生成・ボイスクローニングには、ナレーションやエンターテインメントなど正当な用途もあります。今回取り上げたのは、その技術を詐欺に悪用するケースについてです。


