MIT Technology Review記事「ディープマインドの研究者が問う『AI界の植民地』問題」が面白い。
https://www.technologyreview.jp/s/215251/the-problems-ai-has-today-go-back-centuries/?utm_source=MIT%E3%83%86%E3%82%AF%E3%83%8E%E3%83%AD%E3%82%B8%E3%83%BC%E3%83%AC%E3%83%93%E3%83%A5%E3%83%BC+-+%E3%83%8B%E3%83%A5%E3%83%BC%E3%82%B9%E3%83%AC%E3%82%BF%E3%83%BC&utm_campaign=2fa5a0583c-NewsLetter_TheDaily&utm_medium=email&utm_term=0_6f0fb6e76b-2fa5a0583c-194425309&mc_cid=2fa5a0583c&mc_eid=944002f1f3
カーレン・ハオ[ Karen Hao ]米国版 AI担当記者
・人工知能（AI）の最も厄介な問題点であるアルゴリズム的差別や「ゴーストワーク」は偶然の産物ではない。問題の背景にあるのは、過去に植民地化した者とされた者との間の力の不均衡であり、長く忌むべき歴史を理解することが問題解決の第一歩になるという。
・歴史上では植民地主義は終わったかもしれないが、その影響は今日も存在している。これは専門家が「コロニアリティ」と呼ぶもので、現代の人種、国、貧富の差などの集団間の力の不均衡は、植民地化した者とされた者との間の力の不均衡の延長線上にあるという考え方だ。
・次の5つの点でコロニアリティがはっきりした形をとって現れているとしている。
① アルゴリズム的差別・抑圧
人種的に平等でない社会で得られたデータを元に訓練されたプロセス自動化アルゴリズムは、結果的に、出力において社会の人種差別を複製してしまう。
② ゴーストワーク
AIによるイノベーションを支えるために必要な目に見えないデータ労働、すなわちゴーストワークという現象も、歴史上の植民地化した者とされた者の間の経済関係の延長線上にある。フィリピン、ケニア、インドなど多くの旧米英植民地は、米英企業のゴーストワークの拠点となっている。これらの国の英語が話せる安価な労働力は、まさにデータ労働に適しており、植民地支配の歴史があるからこそ存在しているのだという。
③ ベータテスト
AIシステムは、「実際の」ユーザーに実装される前に、より脆弱なグループを対象としてテストされることがある。
④AIガバナンス
植民地時代が残した地政学的な力の不均衡はまた、AIガバナンスの積極的な形成にも見られる。このことは、近年のAI倫理のガイドラインを形成するための急ぎ足の取り組みで顕著だという。
⑤国際的な社会発展
「善良な目的のためのAI」や「持続可能な開発のためのAI」のイニシアチブは、しばしば父権主義的だという。
ＩＴ起業研究所ITInvC代表 小松仁