AI開発の潜在的なリスクへの懸念
本日、衝撃的なニュースが入ってきました。米国の技術者らによる公開状が発表され、人工知能（AI）の研究者たちに対して、新しい強力なシステムのトレーニングを6ヶ月間停止するよう要請しました。この状には、数百人の技術者が署名しており、Elon Muskもその中に含まれています。公開状では、「最近のAIの進歩は、社会や人類にとって『深刻なリスク』をもたらす」と指摘されています。
GPT-4公開後の警告
この公開状が発表されたのは、OpenAIのGPT-4が公開された直後のことでした。GPT-4は、これまでにリリースされたAIシステムの中で最も強力なものです。多くの専門家は、AIの競争が加速する中で、人類が災難に向かっていることを懸念しています。
AI安全研究への協力の呼びかけ
公開状では、AI安全に関する研究を進めるために、すべてのAIラボが協力することが求められています。状には、「すべてのシステムが、独立した専門家によって統制される安全なプロトコルを持っていることを確認する必要がある」と記されています。
署名者たち
公開状には、Steve Wozniak、Yuval Noah Harari、多くの機械学習の専門家らが含まれています。ただし、OpenAIの従業員は署名していないようです。Googleからは少なくとも4人の従業員が署名しています。
テクノロジーリーダーへの警告
公開状は、「人間と競い合うことができるAIシステムが現在、一般的なタスクで生まれています。我々は、情報チャネルをプロパガンダや不正情報で溢れさせることができるのか？全ての仕事を自動化することができるのか？私たちを超えて、知性を持つ非人間の心を開発することができるのか？私たちの文明が制御されなくなるリスクを冒すことができるのか？これらの決定は、選出されていないテクノロジーリーダーに委譲すべきではありません」と言及しています。
社会の対応と警戒
公開状は、「社会は、他の技術に対しても慎重な態度を取っています。ここでも同じことができます。長いAIの夏を楽しんで、準備不足のまま秋に突入してはいけません」と結び付けています。
開発停止の要請ではなくリスクの回避
署名者たちは、AI開発を一時停止することは要求していないと明確にしています。代わりに、「危険な競争から一歩引いて、予想外の能力を持つ不確実なブラックボックスモデルの開発から踏みとどまること」を呼びかけています。
AI開発に対する議論の活発化この公開状が発表されることで、AI開発に対する議論が再び活発化することが期待されます。人類がこのような技術を安全に活用するためには、十分な対策が必要であることが示されています。
まとめ
米国技術者らが発表した公開状により、AI研究者たちは新しい強力なシステムのトレーニングを一時的に停止することが求められました。この状の発表により、AI開発に対する議論が活発化し、技術者たちが社会と協力して安全対策を講じることが期待されています。