ＡＩのための「ファイアウォール」。

情報処理技術者試験の

　午前問題

を学習していれば避けて通れないのが

　ファイアウォール

です。

まぁ、外部のネットワークから送られて
きたデータや、内部から送信しようと
しているデータを確認して、
通過させるかを判断したりする訳ですから

　避けて通れない

機能になりますよね。

ところが、このファイアウォールは

・通信の送信元
・あて先（パケット）

を見て、通信の可否を判断しており、

　データの中身

までは確認していません。このあたりは

　郵便物

と同じですね。 d(￣▽￣)

ですから、郵便物の中身の文章に

　＿φ(￣▽￣) ←悪いやつ
　ひひひ･･･脆弱性のあるコードが
　書いてあるんだぜ～

とか

　＿φ(￣▽￣) ←悪いやつ
　ひひひ･･･機密情報がたくさん
　書いてあるんだぜ～

などと書かれていても

　すり抜け

が起こってしまいます。更に、最近は

　生成ＡＩ

に対して、プロンプトを介して情報が
受け渡しされるようになりました。

そんなときに

　プロンプトを確認

するようなソリューションとして最近、
注目されているのが

　ＡＩファイアウォール

と呼ばれるセキュリティサービスです。

※ 本日の原稿を ChatGPT 4o で画像化

生成ＡＩを用いたアプリケーションと
利用者の間に入って

・ＡＩへのプロンプト入力
・ＡＩによる出力

の両方をリアルタイムで監視して、
有害な入出力をブロックする訳です。

これらの背景には

・データポイズニング
（生成ＡＩの学習データに
　有害な操作を施す攻撃）

・プライバシー攻撃
（ＡＩモデルやデータから
　機密情報の漏洩を狙う攻撃）

・プロンプトインジェクション
（ＡＩモデルに本来想定されていない
　挙動を促す攻撃）

などが増えてきたということがあります。