「アイリーン・グオ[ Eileen Guo ]

米国版特集・調査担当上級記者

特集・調査担当の上級記者として、テクノロジー産業がどのように私たちの世界を形作っているのか、その過程でしばしば既存の不公正や不平等を定着させているのかをテーマに取材している。以前は、フリーランスの記者およびオーディオ・プロデューサーとして、ニューヨーク・タイムズ紙、ワシントン・ポスト紙、ナショナル・ジオグラフィック誌、ワイアードなどで活動していた。」

「オランダのアムステルダム市は生活保護の虚偽申請を検出するAI「スマートチェック」を開発。専門家の助言を受け、バイアス除去や透明性確保など「責任あるAI」の手順を踏んだものの、試験運用で深刻な問題が発生し、導入は中止に追い込まれた。完璧な条件下でも失敗した実験が突きつける、根本問題とは。

この記事の3つのポイント

・アムステルダム市は「責任あるAI」のベストプラクティスをすべて実行したが失敗に終わった

・技術的調整では解決できない根本的な構造問題が浮き彫りになった

・「公正なアルゴリズム」という前提そのものに疑問が提起された」

Chantal Jahchan

小松　仁

生活保護の嘘を見抜け——アムステルダムの「完璧」なAI導入が失敗した理由（MIT Tech Re