アンソロピック社が世界的なAI開発の一時停止を呼びかけ、人間が技術に対する支配力を失いつつあると

世界をリードする人工知能（AI）企業の1社が、自らが開発に貢献した技術そのものについて警鐘を鳴らしている。人間がAIに対する制御力を失いつつあるのではないかという懸念からである。

AIプラットフォーム「Claude」を開発したAnthropic社は、人工知能システムがまもなく人間の関与なしに自らを改良できる段階に達するのではないかという懸念が高まる中、高度なAI開発のペースを協調して緩めるよう呼びかけている。

この警告は、政府や規制当局による監視がほとんど行われない中で、大手テクノロジー企業がこの業界に数千億ドルを投じ、ますます強力なAIシステムを構築しようとする競争について、新たな懸念を煽っている。

アンソロピック、「再帰的自己改善」について警告

木曜日に公開された長文のブログ記事の中で、Anthropicは、AIの能力が社会が追いつけないほどのペースで進歩していると警告した。

同社によると、AIシステムが自律的に実行できる作業量は、およそ4ヶ月ごとに倍増しているという。

同社幹部は、この傾向が最終的に「再帰的自己改善」と呼ばれるシナリオにつながる可能性があると指摘している。これは、AIシステムが人間の介入なしに、自らの後継システムを設計・改良し始める状態を指す。

「システムが自らの後継システムを完全に構築できるようになれば、それらを保護し、監視し、その挙動を制御する方法が、これまで以上に重要になる」とAnthropicは記している。

同社は、政府や機関がその影響に対処するための時間を確保するため、開発を一時的に協調して停止することが必要になる可能性があると示唆した。

「まだその段階には至っておらず、再帰的自己改善は必然的なものではない」と、Anthropicの共同創業者ジャック・クラーク氏とAnthropic Instituteの代表マリーナ・ファヴァロ氏は記している。

「しかし、多くの機関が準備を整えるよりも早く、その段階が訪れる可能性がある。」

テクノロジー界のエリートたちが、自ら作り出した未来への警鐘を鳴らす

アンソロピック社の警告は、人工知能が最終的に人間の管理を完全に脱却してしまうのではないかという懸念が高まり続ける中で発せられたものだ。

同社自身も今年初め、その強力なAIモデル「Mythos」がソフトウェアシステムの脆弱性を特定する能力を実証し、銀行、サイバーセキュリティ、テクノロジーなどの業界に衝撃を与えたことで、こうした懸念に拍車をかけていた。

研究者や業界関係者からの度重なる警告にもかかわらず、実質的な規制は依然としてほとんど存在しない。

その一方で、企業が市場支配権と投資資金を巡って競争する中、ますます強力なAIシステムを目指す競争は加速している。
トランプ政権は最近、AI開発者に対し、公開前に自発的に最先端のシステムをサイバーセキュリティテストに提出するよう促す大統領令を発令し、責任の多くを企業自身に負わせた。

AI開発の一時停止を求める声が高まる

アンソロピック社は、開発のペースを緩めるよう求めた最初の大手企業ではない。

2023年、イーロン・マスク氏は他のテクノロジー業界のリーダーたちと共に、安全対策や監督体制を整える時間を確保するため、高度なAI開発を6か月間一時停止するよう求める提案を支持した。

しかし、各社が開発競争を続ける中、こうした取り組みは結局ほとんど進展しなかった。

アンソロピック社は、AIの安全性への懸念を軸に、その企業イメージの多くを築いてきた。

今年初め、同社は自社のモデルが国内監視プログラムや完全自律型兵器システムに使用されることを拒否したと報じられた。

一方で、批評家たちは、アンソロピック社が技術の危険性について警告を発しつつも、ますます強力なAI製品をリリースし続けていると指摘している。

2月、同社は、競合他社が自社の技術に追いつきそうな場合、潜在的に危険な機能を差し控えるという以前の公約から後退した。

1000億ドル規模の競争がさらなる疑問を投げかける

この警告は、アンソロピック社が爆発的な成長を遂げている最中に発せられたものだ。

同社は最近、約9650億ドルの企業価値が評価され、今週、非公開で株式公開（IPO）を申請し、世界で最も価値のあるAI企業の一つとしての地位を確立した。

アンソロピック社は、減速策が機能するためには、複数の主要企業が参加に合意する必要があることを認めた。

「対照的に、ある研究所による一方的な一時停止は即座に実現可能だが、その効果ははるかに小さい。それはトップランナーの座を変えることはできても、現在欠如している広範な審議プロセスを生み出すことにはならない」と同社は述べた。

その目的のため、アンソロピック社は政策立案者、研究者、市民団体、そして競合するAI開発者を一堂に集め、ますます強力になるシステムに対し社会がどう対応すべきかを議論する計画だと述べている。

同社の警告は、多くの技術専門家が長年にわたり議論してきた現実を浮き彫りにしている。すなわち、AI革命を牽引する業界のリーダーたち自身が、この技術が最終的にどこへ向かうのかについて、ますます懸念を表明しているということだ。

人工知能がより強力になり、日常生活に深く浸透するにつれ、誰がそれを制御するのか、そしてそもそも最終的に制御可能なのかという疑問を無視することは、ますます困難になってきている。

ご参考まで。

感謝を込めて。

P.S.インスタグラム始めました！フォローしてくださると嬉しいです。

@greenra101

P.P.S note始めました！フォローしてくださると嬉しいです！

Ayako/Green Relaxation&Awarenessの記事一覧｜note（ノート）Ayako/Green Relaxation&Awarenessさんの記事一覧です。