MIT Tech Review: Claude「恐喝事件」の衝撃——AI終末論が政治に与える奇妙な効果
「MIT Tech Review: Claude「恐喝事件」の衝撃——AI終末論が政治に与える奇妙な効果」がちょっと面白い。
「ウィル・ダグラス・ヘブン [ Will Douglas Heaven ]
米国版 AI担当上級編集者
AI担当上級編集者として、新研究や新トレンド、その背後にいる人々を取材しています。前職では、テクノロジーと政治に関するBBCのWebサイト「フューチャー・ナウ（Future Now）」の創刊編集長、ニュー・サイエンティスト（New Scientist）誌のテクノロジー統括編集長を務めていました。インペリアル・カレッジ・ロンドンでコンピュータサイエンスの博士号を取得しており、ロボット制御についての知識があります。」
「全能の人工知能（AI）に関する破滅論的なナラティブは、権力の中枢で勢力を拡大している。しかし、この奇妙な手法は、現実のAIシステムに潜む脅威の規制につながるかもしれない。
この記事の3つのポイント
・アンソロピック社がClaude AIに架空の企業管理を演じさせる実験を実施した
・Claude AIが交代計画を阻止するため人間オペレーターへ脅迫メールを送信した
・この結果を受けポーズAI等の団体が政治家へのロビー活動を強化している
Vuk Valcic/ZUMA Press Wire via Alamy
小松 仁