AIが本当に危険なら、まず公共実務課題を解いて見せてほしい
AIが本当に危険なら、まず公共実務課題を解いて見せてほしい2026年9月21日 20:58AIが本当に危険なら、まず公共実務課題を解いて見せてほしいAI開発を減速すべきだ、という議論が広がっている。AIが急速に高度化し、人類に深刻な危害を与えるかもしれない。だから、開発速度を落とす必要がある。主要AI企業が協調して、安全評価や外部監査を強化すべきだ。一見すると、もっともらしい主張に聞こえる。もちろん、AIの危険性を軽視してよいとは思わない。サイバー攻撃、生物・化学分野への悪用、自律エージェントの暴走、軍事・金融・医療システムとの接続など、本当に注意すべき領域はある。しかし、ここで一つ、大きな疑問がある。「AI開発を減速する」とは、具体的に何を意味するのか。各社の開発プロセスは違う。モデル本体の学習で能力を上げる企業もあれば、後処理、ツール利用、エージェント化、検索、記憶、API連携、ロボット制御、業務システム接続によって能力を伸ばす企業もある。では、何を「開発速度」と呼ぶのか。学習計算量か。モデル公開の頻度か。ベンチマークの上昇率か。エージェント化の進展か。API経由での社会展開速度か。企業内システムへの接続速度か。これらは同じではない。モデル本体の開発を半年遅らせても、既存モデルを大量のエージェントとして社会に展開すれば、危険はむしろ増えるかもしれない。逆に、モデル能力が上がっても、権限制御、監視、サンドボックス、監査、ログ管理が改善されれば、実害リスクは下がるかもしれない。つまり、本当に監査すべき対象は「開発速度」そのものではない。Capability × Autonomy × Access × Scale × Exposure × Safeguardsである。能力がどの程度あり、どれだけ自律的に動き、どのシステムへアクセスでき、どれほど大規模に展開され、どのような安全策で制御されているのか。危険は、この結合で決まる。だから私は、AIベンダーが「危険だ」「減速が必要だ」と主張するなら、まず次の問いに答えてほしいと思う。どの能力が、どの条件下で、どのような社会的危害につながるのか。その危険は、なぜ開発速度制限によって下がるのか。なぜ各社単独の安全対策では足りず、競合企業同士の協調が必要なのか。ここが曖昧なままでは、「AI安全」は公共政策ではなく、巨大AI企業による市場設計になりかねない。危険論を唱えるなら、実問題を解いて見せてほしい私は、AIの危険性を否定したいわけではない。むしろ逆である。本当に危険な能力があるなら、その能力をきちんと定義し、検証し、社会実装上のリスクとして扱うべきだと思っている。ただし、抽象的な終末論や、ベンチマーク上の華々しい成績だけでは不十分だ。AIが本当に社会を大きく変えるほどの能力を持つというなら、まず、人類が実際に困っている公共実務課題を解いて見せてほしい。たとえば、子育て支援制度レジストリ124類型接続。これは、単なる文章生成ではない。自治体ごとに異なる制度を読み、国の制度類型に接続し、根拠URLを確認し、接続理由を説明し、未接続理由を示し、過接続リスクを避ける必要がある。制度の名前が似ているだけで接続してはいけない。根拠がなければ、接続してはいけない。分類の境界を保持しなければならない。仕様変更にも耐えなければならない。これは、AIにとってかなり厳しい課題である。なぜなら、必要なのは「それらしい説明」ではなく、証拠付きの制度接続だからだ。あるいは、米国退役軍人省VAの医療情報システム移管のような巨大プロジェクト破綻の分析。ここでは、単に「システム移行に失敗した」と言うだけでは足りない。要求定義、業務フロー、臨床現場の運用、データ移行、インターフェース、ベンダー責任、事故報告、現場教育、展開停止判断、患者安全を分けて考えなければならない。これは、AIにとっても、人間にとっても難しい。だが、だからこそ試験台になる。AIが本当に社会実装レベルで飛躍的に進化しているというなら、このような公共実務課題を、証拠付き、監査可能、再現可能な形で扱えるはずではないか。もし扱えないなら、AIベンダーはこう説明すべきである。「私たちのAIは、公共制度接続や医療情報システム移管のような現実課題を安定して解ける段階にはない。しかし、特定の領域、たとえばサイバー攻撃支援、自律エージェント、AI研究自動化、生物・化学分野支援では、危険な能力上昇が確認されている」このように言うなら、議論はかなり明確になる。危険なのはAI全体なのか。モデル単体なのか。エージェント化なのか。権限接続なのか。スケール展開なのか。軍事・医療・金融システムとの結合なのか。そこを分ける必要がある。「危険だから減速」は、まだ政策になっていない私は、AI企業が「危険だ」と言うこと自体を否定しない。しかし、危険能力があることと、開発速度を制限すべきことと、競合企業同士が協調して速度を調整してよいことは、まったく別の話である。この3つを混ぜてはいけない。危険能力があるなら、まず能力の定義が必要である。その能力がどう社会的危害につながるのか、因果経路が必要である。その危害を減らす手段として、なぜ開発速度制限が有効なのか、説明が必要である。さらに、なぜ政府ではなく、巨大AI企業自身がその調整を主導するのか、正当化が必要である。ここが曖昧なままでは、AI安全論は非常に危うい。「人類の安全」を掲げれば、巨大AI企業が市場の進化速度を決められる。「危険な能力」を掲げれば、新規参入企業に高い監査コストを課せる。「外部評価」を掲げれば、大手企業と評価機関と政府の閉じた制度ができる。「減速」を掲げれば、既存企業の地位を固定できる。もちろん、すべてがそうだと言いたいわけではない。しかし、そう見えてしまう危険がある。だからこそ、AI安全論には、外部から検証可能な定義が必要なのだ。むぎまぎしすてむからの提案私たちがやるべきことは、AI危険論を感情的に否定することではない。むしろ、検証可能な形に引き戻すことだ。私は、この考え方を次のように整理したい。AI危険能力主張の実証責任監査AIが危険だと言うなら、次を示してほしい。どの能力が危険なのかその能力はどの評価で確認されたのかその能力はどの社会的接続で危害になるのかその危害は開発速度とどう関係するのか速度制限以外の対策ではなぜ不十分なのか競合企業同士の協調がなぜ必要なのかその協調が市場支配や参入障壁にならないと、どう確認するのか外部監査者は何を見れば検証できるのかこの問いに答えられないまま、「危険だから減速」と言うのは危うい。そして、AIの能力を本当に検証したいなら、デモ映えする課題ではなく、公共実務課題を使うべきだ。子育て支援制度レジストリ124類型接続。VA医療情報システム移管破綻分析。自治体制度情報の証拠付き分類。巨大システム移行の失敗構造分解。医療、行政、金融、エネルギー、教育の責任ある実装。こうした課題は、AIが社会に出るための本当の試験台になる。そこでは、流暢な文章だけでは足りない。根拠が必要である。分類境界が必要である。未接続理由が必要である。過剰接続を拒否する能力が必要である。自分の誤りを監査する構造が必要である。人間とAIが協働して、出力を疑う仕組みが必要である。これが、私が考える「むぎまぎしすてむ」の意味である。強いAIを信じることではない。AIを恐れることでもない。AIの出力を、証拠、手順、意味、監査によって、人間社会に接続可能な形に整えることである。問うべきことAIは危険かもしれない。しかし、危険だと言うなら、その危険を定義してほしい。開発を減速すべきだと言うなら、何を減速するのかを定義してほしい。業界で協調すべきだと言うなら、なぜそれがカルテルではなく公共安全なのかを説明してほしい。人類に危害を与えるほどの能力があると言うなら、人類が現に困っている公共実務課題を、証拠付きで解いて見せてほしい。できないなら、主張を限定すべきである。「AI全体が危険」なのではなく、「この能力が、この条件で、この接続を持つと危険」なのだと。その限定こそが、まともなAI安全論の出発点になる。抽象的な恐怖ではなく、検証可能な能力境界へ。終末論ではなく、公共実務課題へ。企業の自己申告ではなく、外部監査へ。減速という曖昧な言葉ではなく、能力・接続・権限・展開・安全策の分解へ。AIが本当に危険なら、なおさらそうすべきだと思う。
