この機能は一般利用者向けに無料開放されており、画像や動画、音声、テキストにAI合成やディープフェイクの痕跡があるかを短時間で判定できます。従来は人の目だけで真偽を見分ける必要がありましたが、判断が難しく時間もかかることが課題となっていました。
利用方法は簡単で、アプリのトップページから「AIコンテンツ鑑定」を選択し、疑わしいファイルをアップロードするだけです。数秒程度で「AI生成の痕跡なし」または「AI生成の痕跡あり」といった判定結果が表示されます。画像は30KB〜5MB、動画は100KB〜100MBなどファイル容量に制限があり、無料利用は1日10回までとなっています。
この機能はすでに様々な詐欺対策で活用されています。近年、中国のEC業界では、いわゆる中国語で「羊毛党」と呼ばれる悪質ユーザーが、AIで作成した「腐った果物」や「壊れた商品」の偽画像を使い、「返品不要の返金」を要求するケースが増加しています。販売業者は問題画像を鑑定にかけ、AI生成の痕跡を示すレポートを異議申し立ての補助証拠として利用できるようになりました。
また、AIによる顔交換や音声模倣を使った「なりすまし詐欺」への対策としても期待されています。詐欺グループは知人や家族を装った映像や、投資利益を偽装したスクリーンショットを送り、送金を誘導するケースが増えています。利用者は疑わしい動画や画像をアップロードすることで、詐欺の可能性を事前に確認できます。
さらに、偽造チャット記録や偽身分証、偽の送金画面などの判別にも対応しています。
加えて、同アプリには「本人確認」機能も追加されました。詐欺行為が疑われる人物の電話番号をアプリに入力して認証を申請すると、相手側が国家反詐欺センターアプリ上で顔認証を行い、その結果が申請者にリアルタイムで表示される仕組みです。特に「親族や上司を装った詐欺」への対策として活用が期待されています。
一方で、当局は「鑑定結果はあくまで参考情報であり、現時点では司法証拠として直接利用できない」と説明しています。極めて高精細なAI生成コンテンツや、SNS上で何度も圧縮された画像については検出が難しい場合もあるといいます。
そのため当局は、送金や借金依頼など重要な場面では、AI判定だけに頼らず、電話の折り返し確認やビデオ通話による再確認を徹底するよう呼びかけています。ビデオ通話中に顔を横に向けたり、顔の一部を隠したりしてもらい、不自然な顔変形や映像のズレがないか確認する方法も有効だとしています。
国家反詐欺センターは、利用者に対しアプリを最新版へ更新するとともに、家族や友人にも機能を共有し、AI時代の詐欺対策を強化するよう呼びかけています。