いつも朝は、車のAndroid Autoでニュースを聞いています。最近は、日本企業の情報漏洩が立て続けに報じられています。ヤマト、佐川急便、焼肉きんぐなど、９月末から不正アクセスや被害の公表が相次いでいます。
マイナビ
↓
国内企業で相次ぐ不正アクセスと情報漏洩
韓国の銀行も攻撃を受け、中国で開発されたAIツールが使われた疑いが報じられています。ただ、実行者やAIの使われ方は、まだ確定していません。
聯合ニュース
↓
韓国の銀行への攻撃に悪用された疑いのある「ARTEX」
＜大丈夫か？＞
これだけ続くと、共通する背景があるのではないかと感じます。事件同士の関連はまだ確認されていませんが、全体の動きが気になります。いつかは、こんな事態になると予測していました。Anthropic社やOpenAI社が、試験中のAIによる外部への不正アクセスを公表してから、まだそれほど経っていません。Anthropic社は、試験環境から実在する３つの組織への不正アクセスを報告。OpenAI社も、AIがサンドボックスという隔離環境の制限を突破し、自社の研究基盤やHugging Faceのシステムに侵入したと説明しています。今回の銀行への攻撃と直接つながる話ではありませんが、外部への侵入は実際に起きています。
一次資料
↓
Anthropic：安全性試験中に起きた不正アクセス
OpenAI：Hugging Faceへの侵入事案と今後の対策
両社は情報を開示し、対策も公表しています。それでも問題が起きています。中国で開発されたAIについても、懸念があります。どこまでの能力があるのか。どんな安全性試験を行い、何が起きたのか。私には、その実態が十分に見えていません。なんと言ってもオープンソースです。誰でも利用可能です。
その状態で、自由に入手・改変できる形で公開して大丈夫なのか。ソースやモデルが公開されても、安全性まで分かるとは限りません。悪用する側が制限を外して使えば、提供元だけで止めるのは難しい。
これは一国に限らない問題です。強い攻撃能力を持つAIを広めるなら、先に安全性を検証し、能力に応じた規制をかけるべきです。誰が何を動かし、誰が止めるのか。それさえ見えなくなれば、カオスの世界です。
＜現実は。。＞
アメリカでは、かなり以前から、コンピューターネットワークを安全保障上の重要な領域として扱っています。NSAの公式資料には、1980年代半ばに、相手のネットワークを利用して情報を得る活動の構想を進め、技術者を集めたとあります。
NSA（国家安全保障局）
↓
一次資料：Hilda Faust Mathieu
そして2018年。「Defend Forward」。悪意あるサイバー活動を、発生源で妨害・停止する。戦時には、攻撃的なサイバー能力を陸・海・空・宇宙の作戦と組み合わせる。
アメリカ国防総省
↓
一次資料：2018年サイバー戦略
守るだけでは、サイバーセキュリティは成り立ちません。防いでも、相手は何度でも仕掛けてくる。だから、被害が出る前に、攻撃する側の足場を止める。私は以前から、そう考えています。
2018年の中間選挙でも、NSAと米サイバー軍が連携。ナカソネ司令官らは後に、選挙を妨害する活動を阻止したと説明しています。
一次資料
↓
ナカソネ司令官らの寄稿
選挙だけではありません。2024年には、FBIが裁判所の許可を受け、攻撃の中継に使われた数百台のルーターから不正プログラムを除去。英国主導の国際共同作戦では、身代金を要求する犯罪集団「LockBit」のシステムも掌握しました。
アメリカ司法省
↓
一次資料：攻撃に悪用されたルーターへの対処
一次資料：LockBitへの国際共同作戦
こうした攻撃にAIが使われれば、弱点を探し、方法を考え、試し、次の手を選ぶ。その作業が速くなります。さらに怖いのは、攻撃元を見誤ることです。他国のサーバーや乗っ取った機器を経由すれば、見えている接続元と実行者は違います。日本の家庭用機器も、攻撃の中継に悪用される可能性が指摘されています。
一次資料
↓
NICT・総務省・警察庁：家庭用機器を悪用した通信の中継
誤認して報復すれば、再報復を招く。だからこそ、同盟国との情報共有と信頼関係が重要になります。なりすましによる犯罪。サイバー攻撃。生成AIの悪用。断固とした対応が必要です。金融、通信、行政の仕組みを握られれば、国の機能そのものが脅かされる。放置すれば、やがて国ごと乗っ取られかねない。私はそう危惧しています。
核兵器には巨大な設備が必要です。しかし、AIとコンピューターとネットワークは、個人でも使える。
実は、この記事を書くのにもCodexを利用しています。とても便利です。私には、普段のチャッピー君より使い勝手がいいのです。私自身、その便利さを享受しています。もはや生成AIなしには、世の中が動かなくなりつつあると感じます。それほど急速に、社会に浸透しています。
だからこそ、司法、行政、立法府が早急に動く必要があります。現状では、対応が後手後手に見えます。致命的な事故が起きてからでは遅いのですが……。
攻撃する側もAI。守る側もAI。恐れていたことが、現実になりつつあります。人類はとんでもない物を作り出してしまったのかもしれません。自分たちで制御できなくなれば、暴走した原子炉と同じです。
始めたのなら、終わりも考えなければいけません。好奇心は猫をも殺す。好奇心を満たしているだけならいいのですが、実害が出るとなれば別問題です。