←クリック
ソーシャルメディアにはコンテンツモデレータ（適正化する）という人々が雇われている。
その方々の仕事を紹介しているドキュメンタリー映画。
ドイツ映画祭に上映された。
SNS社会への警鐘を鳴らしている。
Facebook、twitter、Google などのコンテンツモデレータは世界で数万人いると言われる。
この映画ではフィリピンのコンテンツモデレータが紹介されており、フィリピンには数千人いるとも言われている。
コンテンツモデレータは、SNSにアップされた内容をチェックして、「放置」か「削除」を判断していく仕事である。
削除するルールを各社が持っていてそのルールに従って削除していく。
児童ポルノの非掲載・いじめ防止・テロの未然防止などの目的がある。
コンテンツモデレータは、25,000ページ／日が目標となっている。
【削除動画の例】
ある若い女性モデレータは、SEXに関する用語や大人のおもちゃのことを全く知らなかったので、専門店で見て触って勉強したという。
そうでないと「削除」判断ができないからだ。
また別の女性モデレータは6歳くらいの少女が大人に強要させられている動画を見て、このような仕事はやっていられないと上申したところ、「あなたは契約しただろう」と言われたという。
男性モデレータは、数百の拷問などの動画を見てたくさん「削除」をしてきている。
アメリカ政府から、テロ集団のリストが上がってきていて、名称や旗やマークなどは「削除」されている。
【エロか芸術か】
ある画家の女性はトランプ大統領の裸体の絵を投稿した。
それに対して5500万アクセスというすごい反響があった。
これをトランプ大統領も見ていた。
モデレータはその後、この絵を削除した。
裸体に表現されている男性器が小さく書かれていて、アメリカという国のリーダーとしての器ではない、ということを暗示していて、人を貶（おとし）めているのでルールに従って「削除」という判断であった。
ルールがあるものの最終的にモデレータの判断にゆだねられる。
モデレータも判断に迷うケースも多々ある。
画家はこの「削除」に憤慨している。
この絵は芸術であると。
【史実かむごさか】
内戦などの爆撃の様子も「削除」に当たるが、それをリソースにしている人々もいる。
「削除」される前にストックしている。
その事実を残さなければ、悲惨な本当のことが残らず、やりたい放題になることを懸念している。
むざんな投稿には、事実を知らせる意味合いと恐怖を宣伝する意味合いの両面がある。
フセイン元大統領が絞首刑になった時に、絞首刑になるところの動画と遺体の動画がアップされた。
絞首刑の動画は歴史的価値があるとして「放置」し、「遺体」の動画は「削除」したという。
そのエリアの背景や歴史的背景を知らないと、判断ができないものもある。
それが１モデレータの判断にゆだねられる。
この話をしたもとSNSの役員は、我々の「削除」基準が正しいとは言えないかもしれない。
しかし、何らかの判断をしないといけない、という。
【発言の自由か抑制か】
国によってある情報がNGという法律があるところがある。
グーグルはエリアごとにコンテンツ基準を分けるツールを開発した。
それにより、情報の開示、非開示をコントロールできるようになっている。
トルコでは、政府批判や国旗を焼いているような動画はすべて「削除」することになった。
トルコでは、元々のメディアの制限が強い国で、国民にとってネットが自由なメディアだった。
そのメディアも制限された。
日本もそのうちこうなるかもしれない。
SNSはその国でサービスができなくなるので、政府の言うとおりにしていき、その後それに合わせた独自ルールを作っていくことになる。
これは、一国の人口よりも拡大しているSNS国家が１企業のルールによって情報統制されるということである。
【SNSは人と人の対立を助長している】
SNSで誰でも意見をアップできるようになった。
意見は良きにつけ悪しきにつけ、人の感情に影響を与える。
悪気がなくても誰かを傷つけている可能性がある。
そのことで人々の対立を生む。
そして、SNSでいろいろな情報が得られることで、人々が自分が誰よりも知っているものと思い込むようになった。
だから、相手に「なぜわからないんだ」と説教しようとし始める。
人の話を聞かない。
共通認識を踏まえないとちゃんとした討論にならない。
そう言われれば最近特にそんな会話ばかりのような気がする。
自分が正しいありきの議論である。
ヘイトスピーチによって、ロヒンギャの方々がSNS上で言われもない卑しめを受け、それによって暴行を受けたりもする。
SNSは感情をあおることでアクセス数を増やすツールである。
提供者側がツールを提供しているだけで、後は使用者の自由、ということではすまされないものになってしまった。
【コンテンツモデレータの仕事】
コンテンツモデレータの同僚が自殺したことがあったという。
来る日も来る日も無残な動画を見ていては人はおかしくなってしまう。
判断したくない動画はスルーすることができるが、スルーばかりしていると評価が下がる。
ミスは月3回までしか許されていない。
コンテンツモデレータは言う。
「我々がメディアを安全に提供するための門番である」と。
その誇りがある一方で、
「我々は見ていて、ただ周りに現実を見せないようにしているだけでもある」
と葛藤する。
【感想】
ショッキングな映画だった。
コンテンツモデレータは大変な仕事であると思う。
現実から想像すれば確かにこのような仕事の必要があるなあ、と後からは思う。
無意識にも考えないようにしてきたことかもしれない。
AIでは無理なんだろう。
情報をどのように取り扱うべきなのか？
情報をどのように受け取るべきなのか？
非常に考えさせられる。
この内容は人間の残酷な面、現実を表出している。
そんなことを見たくないし、知らなくてもいい話かもしれない。
しかし、SNSを便利に使っている者として、やはり、知っておく必要がある内容だと思う。
便利なものにはリスクも伴う。
うまく便利に使っている人もたくさんいるはずだ。
その危険性をちゃんと知りながら、モラルをもって使用していきたい。
ありきたりな言葉だが。
はたしてこの映画の感想をSNSにアップするべきなのか？
SNSに投稿したら「削除」されるかもしれない。