注意：AIに裏切られないで【情報漏えい】

昨今、情報漏えい事件が多発していますが、

攻撃がAIによって行われることにより様々なパターンの攻撃が行われています。

そのひとつとして、あなたの仕事の相棒、AIを乗っ取る攻撃があります。

身近になったAIツールと、意外な落とし穴
最近、GmailのGeminiやCopilotを使って「届いたメール」や「ダウンロードしたPDF」をAIに要約してもらう人が増えています。とても便利な機能ですが、実はここに「人間には見えず、AIにだけ見える罠」が仕掛けられている可能性があるのをご存知でしょうか？
この記事は、AI連携ツールを安全に使うために知っておくべき新しいリスクと、その対策について解説します。

1. 何が起きる？「見えない文字」によるAIの誤作動
結論から言うと、メールやPDFの本文中に「背景と同じ白文字」や「極小フォント」で悪意ある指示（コマンド）が仕込まれているケースがあります。
人間が画面を見ても普通の文章にしか見えません。しかし、AIに「このファイルを要約して」と頼むと、AIは人間には見えないその「隠し指示」まで読み込んでしまいます。
その結果、AIが以下のような挙動を起こしてしまうリスクがあります。

・本来の要約を無視して、嘘の情報を出力する
・要約の最後に「危険な偽サイト（フィッシングリンク）」への誘導を書き足す
・AIの権限を使って、他のデータを取り出そうとする

このように、外部データ（メールやファイル）を介してAIを操る手法を専門用語で「間接的プロンプトインジェクション」と呼びます。

2. なぜAIは騙されてしまうのか？
「AIが賢くなれば防げるのでは？」と思われがちですが、現在のAIの仕組み上、「ユーザーからの正当な命令」と「読み込んだデータに含まれる文章」を区別するのが非常に難しいという技術的な理由があります。
MicrosoftやGoogleなどの開発元も対策を急いでいますが、攻撃手法も日々巧妙化しているため、「システム側だけで100%防ぐのは難しい」のが現状です。

3. 私たちが今すぐできる3つの防衛策
AIの利便性を享受しつつ、被害に遭わないためにはユーザー側の意識が大切です。以下の3点を意識しましょう。
 

①怪しい差出人のメールやPDFはAIに読ませない
心当たりのない相手からのメールや、不審なサイトから落としたファイルは、AIに直接要約・解析させないのが一番の安全策です。

②要約結果に書かれた「リンク」や「誘導」に従わない
AIの出力結果の文末に「詳しくはこちら（URL）」「パスワードを再設定してください」などの指示が出てきても、絶対にクリックしないでください。

③重要操作の自動化は避ける
AIが「メールを自動送信しますか？」などと提案してきても、必ず人間の目で元のデータと内容を確認してから実行するようにしましょう。

まとめ
AIは非常に便利なパートナーですが、「読み込ませるデータの中に罠があるかもしれない」という前提を持つことが大切です。
ウイルス対策ソフトを入れていても怪しいファイルを開かないのと同様に、怪しいメール、出所の不明なファイルをAIに読み込ませない事が大切です。

AIにあなたを裏切らせない様に仕組みを理解した上で安全に活用していきましょう。いつまでも、仕事の良きパートナーとしてAIを活用できるように。