歯止めなきAIは社会秩序を崩壊させ、戦争につながる可能性があると日本のトップ企業が警告
2024年4月15日
Natural News
人工知能を規制するために政府がすぐに行動を起こさなければ、「社会崩壊と戦争」につながりかねないと、日本のトップ企業2社が警告を発した。
日本最大の新聞社である読売新聞ホールディングスと国内トップの通信会社である日本電信電話（NTT）の経営陣は、生成AIの急速な発展に関する共同声明の中で、この技術の利点と生産性向上への有用性を認めたが、その後、間違った方向に進む可能性のある方法の長いリストに着手した。
AIは「自信満々に嘘をつき、簡単にユーザーを欺くことができる」と指摘するのは、人間は「簡単に騙される」からであり、このことは、この技術が広く採用される前から、すでに我々が目にしてきたことである。また、選挙妨害や安全保障上の脅威、民主主義の弱体化といった悪意のある目的に利用され、"甚大かつ不可逆的な損害 "をもたらす可能性も指摘している。
「もし生成AIが野放しにされれば、人々は互いに不信感を募らせ、真正性や信頼性を保証するインセンティブが失われるため、社会全体の信頼が損なわれるかもしれない。最悪の場合、民主主義や社会秩序が崩壊し、戦争に発展することも懸念される」。
もうひとつ興味深いのは、AIの普及が「注意の経済」を悪化させる可能性である。これに対して彼らは、企業や政府が人々の注意を引く新しい方法を考え出し、それが "情報空間を不健康にし、個人の尊厳を傷つけている "と主張している。
彼らは、世界各国がこの技術の利点と欠点に関する教育をカリキュラムに導入し、「ジェネレーティブAIの使用に対する強力な法的制限-強制力を持つ厳しい法律-」を整備すべきだと警告している。
また、著作権法の強化や、選挙や国家安全保障の保護を目的とした新たな法整備も求めている。
AI法制化で世界をリードするEU
欧州連合（EU）は現在、AIの利用を管理する包括的な法律に関して世界をリードしている。EU加盟27カ国すべてがすでに「人工知能法」を承認しており、今年後半には施行される予定だ。
この規制により、AI製品は4つのリスク分類のいずれかに分類され、「許容できないリスク」と判断されたものは全面的に禁止され、高リスクに該当するものの提供者や開発者には一連の制限が課されることになる。
禁止されるシステムには、「サブリミナル的、操作的、または欺瞞的なテクニックを展開し、行動を歪め、情報に基づいた意思決定を損なう」可能性のあるものが含まれる。個人の脆弱性を利用したり、性別、人種、社会的行動、セクシュアリティに基づいて分類したりするものも禁止される。
禁止は今夏の施行から6ヵ月後に実施され、違反者には高額な罰金が科される。
これは、規制の大部分が各州に委ねられており、管理体制がほとんど整っていない米国よりもはるかに徹底したアプローチである。しかし、少なくとも半数の州はすでにAI関連の法案を検討し始めており、15州は独自の決議や法律を可決している。ホワイトハウスは最近、AIに依存する連邦政府機関に対し、米国人の安全を確保し権利を保護するため、12月までに「具体的な保護措置」を講じることを義務付けると発表した。
法律は企業や個人の責任追及には役立つかもしれないが、悪意のある人々の行動を抑止することにはあまり役立たないだろう。私たちはすでに、これらの日本企業が警告しているような社会崩壊や戦争への道を歩んでおり、AIが社会の究極的な崩壊をもたらすのも時間の問題かもしれない。