暴露:Facebook が秘密裏に作成した『危険な個人・組織』のブラックリスト
2021年10月15日(金) by:ニュース編集部

Tags: 

 

Facebookは、テロリストのプロパガンダを助長しているという非難を避ける為、長年に渡り、暴力を助長しているとされる人物やグループについてユーザーが自由に発言することを禁止してきました。

 

 

この制限は2012年にさかのぼります。

 

米国議会国連でオンラインでのテロリストの勧誘に対する警戒感が高まったことを受けて、Facebookはコミュニティ基準に「テロリストや暴力的な犯罪行為の記録がある組織」の禁止を追加しました。

 

このささやかなルールは、その後、「危険な個人および団体」ポリシーとして知られるようになりました。

 

このポリシーは、Facebookの約30億人のユーザーが、危険な存在とみなされる膨大で増え続ける団体について発言することを制限する、包括的なセットです。


近年、このポリシーは、米国大統領に対しても使用されるなど、より急速に使用されており、ミャンマーでの大量虐殺から連邦議会での暴動まで、暴力の発作がFacebookと関連している場合には、国民を安心させるために使用されるなど、ソーシャルネットワークにおいて殆ど象徴的な力を持つようになっています。

 

最近では、Wall Street Journalの一連の記事で、Facebookがオフラインでの無数の被害を助長していることを知っていたことが明らかになったことを受けて、Facebookの副社長がNew York Timesが入手した社内メモの中で、会社の勤勉さの証拠としてこのポリシーを引用しています。

しかし、テロ対策の名のもとに個人の自由を制限しようとする他の試みと同様に、フェイスブックのDIOポリシーは、特定のコミュニティに不均衡な罰を与える責任のないシステムになっていると批判されています。

 

DIOポリシーは、政治家、作家、慈善団体、病院、何百もの音楽アーティスト、死去した歴史上の人物など、4,000以上の人やグループのブラックリストの上に構築されています。

様々な法学者や市民的自由主義者が、このリストを公開し、ユーザーが誰かを褒めたことで投稿が削除されたり、アカウントが停止されたりする危険性があることを知るよう求めている。

 

同社は、従業員を危険にさらすことになり、禁止された団体がポリシーを回避することになると主張して、これを繰り返し拒否している。フェイスブックは、スタッフに対する具体的な脅威についての情報をインターセプトに提供していません。

Facebookは、リストを公開すると従業員が危険にさらされると主張しているにもかかわらず、同社が選んだ監視委員会は、情報が公共の利益になるという理由で、最近の8月にも複数回にわたってリストのすべてを公開することを正式に推奨しています。

 


Intercept」は、DIOの全リストのスナップショットを確認し、本日、分かりやすくするために若干の編集を加えただけで、その資料を完全に再現して公開します。また、モデレーターがどの投稿を削除し、どのユーザーを処罰すべきかを判断するために作成された、関連するポリシー文書も公開しています。

「Facebook は、危険なグループや個人について投稿してはいけないと言いながら、誰を危険と見なしているのかを公にする事を拒否する事で、ユーザーを殆ど不可能な状態に追い込んでいます」と、この資料を検討したBrennan Center for Justiceの自由と国家安全保障プログラムの共同ディレクターであるFaiza Patel氏は述べています。

専門家によると、DIOポリシーはすべてのFacebookユーザーを保護することを目的としており、米国外に居住するユーザー(大多数)にも適用されるにもかかわらず、このリストと関連ルールは、9.11以降の米国の不安、政治的関心、外交政策の価値観を明確に体現しているように見えるとのことです。

 

このリストに掲載されているほぼすべての人や物は、アメリカやその同盟国にとって敵や脅威と見なされています。

 

リストの半分以上は外国人テロリストとされる人物で構成され、その自由な議論はFacebookの最も厳しい検閲の対象となっています。

また、DIOポリシーとブラックリストでは、中東、南アジア、イスラム教徒が多いテロリストとされるグループや個人、或いは黒人やラテン系が多い暴力的な犯罪組織の一員とされるグループや個人よりも、白人が多い反政府民兵に関するコメントの禁止がはるかに緩いと専門家は述べています。

 

 

UCLAロースクールの講師で、Facebook のモデレーションポリシーが社会から疎外されたコミュニティに与える影響について研究・執筆しているアンヘル・ディアス氏は、「Facebook は、あるコミュニティには鉄の拳を、他のコミュニティには控えめな手を提供している」と述べています。

 

 (※:画像にもリンク埋込:PDF100頁分)

 

 

限界集落や弱い立場にある人々への厳しい制限
 

このリストは、フェイスブックの「危険な個人・団体」ポリシーの基礎となるもので、多くの点でこれまで同社が説明してきたものと同じです。

 

即ち、流血の恐れのあるグループやリーダーの集合体です。

 

The Interceptが閲覧したスナップショットは、「ヘイト」「犯罪」「テロリズム」「軍国主義の社会運動」「暴力的な非国家主体」というカテゴリーに分けられています。

 

これらのカテゴリーは、Facebookが6月下旬に発表したルールに基づいて3つの階層に整理されており、各階層はさまざまな厳しさの言論制限に対応しています。

 


専門家によると「テロリスト」「犯罪者」のようなラベルは概念的には広いものですが、リストに掲載されている人やグループにどのように適用されているかを見ると、狭い範囲の人種や宗教の代名詞のようにも見え、フェイスブックが差別的な言論制限を行っている可能性が高いとのことです。

階層に関らず、DIOリストに掲載されている人物は、Facebookのプラットフォーム上でプレゼンスを維持することはできず、ユーザーがリストに掲載されているグループのメンバーである事を表明する事もできません。

 

階層によって、他のFacebookユーザーが禁止された団体についてどのような発言をする事ができるかが決まります。

 

階層1は最も厳しく制限されており、ユーザーは、非暴力的な活動(Facebookが判断)であっても、この階層のグループや人々について賞賛や支持とみなされる表現をすることはできません。

 

Tier 1には、テロ、ヘイト、犯罪グループとそのメンバーとされる者が含まれ、テロとは民間人に対する暴力を組織または擁護する事、ヘイトとは「保護された特性を持つ人々を繰り返し非人間的に扱ったり、危害を加えようと主張したりする事」と定義されています。

 

Tier 1の犯罪者カテゴリーは、殆どがアメリカのストリートギャングラテンアメリカの麻薬カルテルで、黒人やラテン系が中心です。

 

Facebookのテロリストカテゴリーは、第1階層の70%を占めており、圧倒的に中東や南アジアの組織や個人で構成されています。

 

このような組織や個人は、DIOリストの全ての階層において不均衡に存在しており、リストに掲載されている個人の80%近くがテロリストとされています。

 

 

チャート Soohee Cho/The Intercept

Facebookは、テロリストカテゴリーの名前の殆どを米国政府から直接受け取っています。

 

危険なテロリストのリストの内1,000件近くは、「SDGT」(Specially Designated Global Terrorists:特別指定国際テロリスト)という「指定元」が記されている。

 

これは財務省が管理する制裁リストで、9月11日の同時多発テロの直後にジョージ・W・ブッシュが作成したものだ。

 

Facebookのリストに掲載されている名前には、SDGTの公式リストに掲載されているパスポート番号や電話番号が含まれている事が多く、エントリがそのままコピーされている事が判ります。

その他の情報源としては、過激派と称される人々の個人的なデータベースであるTerrorism Research & Analysis Consortium(テロリズム研究・分析コンソーシアム)や、長い間論争の的となってきた民間のテロ追跡調査機関であるSITEなどが挙げられます。

 

かつてCIAのオサマ・ビンラディン部隊を率いていたマイケル・ショイヤーは、2006年にNew Yorker誌に「ひとつのアラビア語の単語は、翻訳されると4つか5つの異なる意味を持つことがある」と語り、SITEは通常、「最も戦争的な翻訳」を選択すると考えていると述べています。

 

Facebook は、競合するハイテク企業と協力してDIOリストを作成したようです。

 

あるエントリーには、グーグルの高位スタッフで、以前は行政府でテロ関連の問題を担当していた人物が「エスカレートさせた」と書かれていました。

 

(Facebook は、他のハイテク企業とリストを共同作成する事はないと述べている)