AIを利用したサイバー攻撃が現実に報告されるようになった。AIの利便性を享受する一方で、同じ技術が不正侵入や情報の窃取にも利用される。便利さを生み出す能力と、危険を生み出す能力は、別々のものではない。問題は、危険もあると承知して使うだけで済むのか、それとも、使い続けるうちに危険を判断し、利用をやめる能力まで失うのか、ということである。
2026年10月21日に公表されたPHPの２件の重大な脆弱性は、この問題を考える手掛かりになる。うち１件については、問題の兆候が2024年にすでに発見されていたが、修正は難航した。その後、AIを利用した研究によって具体的な悪用経路や影響が明確になり、修正が進められた。PHP財団は、修正の遅れについて、互換性などの技術的な難しさ、意思決定の問題、人員・資源の不足を認めている。
しかし、ここから読み取るべきなのは、「脆弱性を知れば防げる」という説明では不十分だということである。危険の発見と、必要な範囲への対策の完了との間には隔たりがある。実際、当時、日本の独立行政法人情報処理推進機構（IPA）も、当該脆弱性を悪用した攻撃を確認したためではなく、予防的に準備を呼びかけた。つまり、危険を事前に知ることはできるが、知っていることと対処を終えていることは違うのである。
また、攻撃側と防御側の双方がAIを使っても、この隔たりが解消されるとは限らない。攻撃側は目的を達成できる突破口を選び、そこに資源を集中できる。防御側は、相手が実際にどの標的を、いつ、どの経路で攻撃するかを確定できないまま、多数の箇所に備えなければならない。
しかも、防御には正常なサービスを維持するという条件が加わる。弱点を塞ぐために別の機能を壊したり、長期間サービスを止めたりすれば、それ自体が損失になる。修正の検証や配布にも時間と費用がかかる。攻撃の実行が速くなっても、これらの作業まで同じ速さで終わるわけではない。双方がAIを使うというだけで、防御が攻撃に追いつくと考える根拠はない。
地震との類似もここにある。正確な発生場所と時刻を確定できないまま、限られた資源で広く備えなければならない。予知できなくても耐震化ができるように、攻撃を予測できなくても事前の防御はできる。それでも、あらゆる場所を同時に、十分に守る難しさは残る。AIによる攻撃の高速化を考える際には、個々の防御技術の性能に加え、社会全体が対策を実施する速度まで考えなければならない。
さらに深刻なのは、AIの活動に対する人間の検証が追いつかなくなる問題である。
AIが短時間に処理した情報や、判断に基づいて実行した行為を人間が確認するには、はるかに長い時間が必要になる場合がある。その差が拡大し、確認を終える前に次の判断が社会に作用し続けるなら、「人間が監督している」という説明は実態を失う。承認ボタンを押す人がいても、内容を理解し、異議を唱え、結果が生じる前に止めることができなければ、実質的な監督とは呼べない。
もちろん、検証のために、AIが行った計算を人間がすべてやり直す必要があるとは限らない。解答の発見より、その正しさの確認が容易な仕事もある。しかし、限られた仕事で検証を省力化できることは、社会に広く作用するAIについても、同じように安全性を確認できることの保証にはならない。
AIの活動量と複雑さが、人間側の検証能力を超えて増え続けるなら、未確認の判断が蓄積する。仮に、その検証に必要な時間が人間の寿命を超える段階に達すれば、検証と責任を次の世代へ引き継ぐ必要が生じる。しかし、それを担う制度や能力の存続まで確保されていなければ、現在の当事者が責任を負うと約束するだけでは足りない。たとえそこまで至らなくても、必要な確認を終える前に取り返しのつかない結果が生じるなら、その場面ではすでに有効な制御を失っている。
危険が続く時間と、それに対処する人間や制度が存続する時間との隔たりは、「核のごみ」の最終処分問題にも表れている。地層処分は、閉鎖後の安全を政府や管理組織の存続に依存させないことを目指している。しかし、その設計方針を掲げることと、個々の処分場が長期にわたり安全を保てると十分な根拠で示すことは別である。現在の管理者の約束だけでは、その隔たりは埋まらない。AIについても、影響が長く残る判断を短時間で大量に実行させるなら、運用主体の交代や消滅まで考慮して、影響への対処と責任の継承が可能かを問わなければならない。
この問題を、監視用のAIを置けば解決すると説明することもできない。監視するAIの判断を、誰が、どの方法で検証するのかが残るからである。人間が確認できる仕組みへつながらず、別のAIへの依存だけが重なるなら、確認の責任を先送りしているにすぎない。
「AIを停止できる」という説明にも条件がある。停止の必要性を人間が判断できるのか。停止命令は確実に届くのか。停止までに生じた影響を回復できるのか。そして、社会がAIに深く依存した後も、実際に停止を選択できるのか。停止機能の存在と、必要なときに停止できることは同じではない。
検証が結果の発生に間に合わず、必要な介入も停止も実行できないまま、AIへの依存と権限の委譲を拡大すれば、人間による実質的な制御は成り立たなくなる。それを防ぐには、AIの活動を人間が検証・介入できる範囲に収める必要がある。その範囲を示せないまま、能力の拡大だけを進めてよいのだろうか。
