Anthropicが公開したばかりの強力AI、Fable 5とMythos 5の提供を停止したと報じられています。
理由は、アメリカ政府の安全保障上の懸念です。
報道によれば、外国人へのアクセス制限を求める指示があり、Anthropicは対応のため、顧客向けのアクセスを広く止める形になったとされています。
問題は、単なるサービス停止ではありません。
強力AIを、どこまで一般に公開してよいのか。
誰が、どの基準で止めるのか。
そこが問われています。
AIは、コードを書き、脆弱性を見つけ、セキュリティ対策を支援できます。
しかし、同じ能力はハッキングにも使われる可能性があります。
防御にも使える。
攻撃にも使える。
だから政府が安全保障上の懸念を持つのは理解できます。
ただし、公開してから急に止めるのでは、企業もユーザーも振り回されます。
公開前に、どのような審査をするのか。
どの能力を超えたら一般公開を制限するのか。
その基準を明確にする必要があります。
Anthropicは安全性を重視する企業として知られています。
しかし、営利企業でもあります。
IPOや企業価値、市場競争、投資家の期待もあります。
企業の善意だけに任せるのは危険です。
一方で、政府の判断も透明でなければなりません。
必要なのは、公開前評価、第三者検証、悪用可能性のテスト、緊急停止の手続き、説明責任です。
ハッキングも対策もAIがする時代。
人間はすでに追いつけない。
だからこそ、AIをどうコントロールするのか、いま本気で考える必要があります。