◆ ＩＢＭの顔認識事業撤退宣言に見る、
「ポストコロナ」社会に広がるディストピアへの危機 （ハーバー・ビジネス・オンライン）
＜文／柳井政和＞
◆ ＩＢＭが顔認識事業からの撤退を宣言
黒人男性ジョージ・フロイド氏が白人警官によって殺された事件は、大きな潮流となっている。この事件のあと、2014年以来広がっている「BLACK LIVES MATTER」（黒人の命は大切だ）というフレーズが大きく拡散した（参照：THE RIVER）。また、全米で抗議デモが発生している。
そうした流れの一つとして、ＩＢＭは６月８日に顔認識ソフトウエアの提供をやめると表明した（参照：BBCニュース）。
ＩＢＭのアーヴィンド・クリシュナＣＥＯは、「ＩＢＭは他社の顔認識技術も含めたあらゆるテクノロジーが、大衆監視や人種によるプロファイリング、基本的人権や自由の侵害に使われることに強く反対し、今後は許容しない」と述べた。
アーヴィンド・クリシュナ氏はインド出身で、インド工科大学とイリノイ大学を出たエンジニアでもある。Red Hat の買収で手腕を振るい、今年の1月に IBM の CEO に就任した（参照：IT Leaders）。
それ以前の IBM の動きはどうだっただろうか。
昨年の１１月の段階でＩＢＭは、米政府に対し、顔認識技術を全面的に禁止するのではなく、規制を求めていた。害を及ぼす恐れがある使用事例を取り締まりながら、イノベーションを促すことが可能だと主張していた（参照：CNET Japan）。
また、昨年１月の段階では、顔認識向けに１００万人分の顔データを提供するなど積極的な活動をおこなっていた（参照：CNET Japan、GIGAZINE）。
そこから一転しての顔認識ソフトウエア提供の中止だ。今回の「BLACK LIVES MATTER」の流れの大きさを感じる。
◆ ＡｍａｚｏｎやＭｉｃｒｏｓｏｆｔも同調
今回の IBM の顔認識技術からの撤退の動きは、同社だけに留まらず、Amazon や Microsoft にも影響を及ぼしている（参照：Forbes JAPAN）。
Amazon は、警察による同社の顔認識ソフトウエアの使用を１年間、禁止した（参照：BBCニュース）。
Microsoft は、警察への顔認識テクノロジーの販売を、適切な法律が整備されるまでの間、停止すると宣言した。
顔認識技術は、プライバシーの侵害や、性別や人種などの分別による差別の助長、誤認逮捕で冤罪を産むなど、様々な問題を抱えている。監視社会の到来は、個人の行動をいちじるしく制限することになる。
また、性別や人種などの属性と、犯罪や暴力行為などの行動を結びつければ、現在存在する差別を強化することに繋がる。
そして、安易な個人の認識と、行動履歴の記録は、誤認識が発生した際に冤罪を産む原因となる。
また、現在の顔認識技術は、技術的な問題も抱えている。
明らかになっている範囲では、男性より女性、白人より黒人で誤認識率が高い（参照：MIT News、Medium）。仮に誤認逮捕があるとすれば、男性より女性、白人より黒人で起きやすいということになる。
撤退や停止が、「BLACK LIVES MATTER」の流れで出てきたということは、こうした技術的な問題が大きく炎上する前に、いったん退いたのではないかという、うがった見方をすることもできる。
◆ 中国の天網
～アメリカの距離を置く姿勢で得をするのは中国！？
アメリカの大手が顔認識技術から一旦距離を置く姿勢を示した。しかし、最大の顔認識技術使用国である中国は、その手を緩めることはないだろう。中国には、天網という監視システムがある。その名前から、映画『ターミネーター』に登場するコンピュータ『スカイネット』と同じ英語に訳されたりする。
天網は、２０００年代から、まず地方都市で試験的に導入され始めた。２０１５年には農村部を除く中国全土の全都市を１００％カバー、２０１７年時点で１億７０００万台の監視カメラとネットワークを構築している。そして今年の２０２０年には、中国全土を１００％カバーすると言われている。
中国の公安部では、このシステムを使って、１３億人の中国国民を数秒以内で特定することを目標としている（参照：IoT Today）。
監視網で実現できるのは、個人の特定だけではない。さらに先を目指している。
「天網」（ネットワーク化）、「天算」（画像高速処理能力）、「天智」（人工知能の応用）によって、多くのことが可能になる。
暴力行為の検知、暴動の前兆の検知、禁止区域への侵入の検知、さらには携帯物体識別で、武器を所持しているかの検知も可能だ（参照：ASCII.jp）。
技術的には、国民が不法行為の前兆を示した時点で、スマホに警告を送ることができる。ドローン技術と組み合わせて行動不能にすることもできるだろう。特定の条件を持つ人を、一斉逮捕することも無理ではない。国民を常時監視下に置くことで、全国民の統制が実現するというわけだ。
◆ 顔認識による監視社会などの問題
人が誰に会い、どういった行動を取るかという情報は、その人の思想を大きく反映している。そこから犯罪をおこなう確率を計算して、事前に取り締まることも理論的には可能だろう。
多くのＳＦ作品で描かれてきた未来だ。逮捕せずとも、要監視対象として追跡することは十分考えられる。
こうした自動計算は、生まれたコミュニティや地域や人種、そうした様々な属性によって人生を制限する差別に、容易に繋がる。
また人々は、監視網に目を付けられないように、自身の振る舞いを注意して行動し続けなければならなくなる。
たとえば、朝起きて１時間以内にコーヒーを飲む人は犯罪率が高いというデータが出たとする。その場合、朝起きてすぐのコーヒーを控えるのが最適な行動となる。
異性に会うと笑顔になる人が犯罪率が高いと分かれば、しかめっ面をするのが正解ということになる。
少し前に『黒人青年が母から言われた「１６のやってはいけないこと」』というものが話題になった（参照：ハフポスト）。
社会的に差別された人は、警察に疑われないために、様々な行動の制約を自身に課して行動する。そこから外れた行動を取ると、逮捕されたり殺されたりする可能性がある。監視社会では、誰もがこうした状態に置かれることになりかねない。
「した方がよい」と「しなければならない」の間の距離はどれぐらいあるのだろうか。監視の目を恐れ、自由や命を守るために行動を制限する。監視社会による犯罪率の低下は歓迎すべき出来事だが、そうした社会では常時緊張を強いられる。
そして、脱落者を何の疑いもなく差別する社会を招く危険をはらんでいる。
◆ アフターコロナで進む、人間トラッキングの問題
アメリカが、立ち止まったからといって顔認識の技術が停滞することはない。中国は積極的に技術開発と世界への普及を進めていくだろう。
国民を監視したい独裁国や、そうした傾向のある国には、常にこうした技術の需要がある。
また、国民監視といった目的以外にも、この手の技術は需要がある。
新型コロナウイルスの流行以降、濃厚接触者を特定するために、個人追跡の技術には大きな需要が生まれた。個人がどこにいるのか、誰と一緒にいたのかという情報は、感染予防にも役立つ。
集団の利益のために、個人の自由や権利を制限するという考えは、以前は受け入れ難いものだった。
しかしコロナ禍以降、求められる行動様式は大きく変わり、国民の監視技術は人々に受け入れられやすくなった。今回のアメリカの事情とは反対に、顔認識技術は大きく普及する可能性が高い。
コロナ禍での人間トラッキングは、まだ非日常の特殊例だ。
しかし、アフターコロナでも継続して日常になれば、人々は疑いもなく受け入れていくだろう。
こうした監視技術の進展は、今後様々な社会問題を生んでいくのではないかと感じさせられる。
※ 柳井政和 やない まさかず。
クロノス・クラウン合同会社の代表社員。ゲームやアプリの開発、プログラミング系技術書や記事、マンガの執筆をおこなう。2001年オンラインソフト大賞に入賞した『めもりーくりーなー』は、累計500万ダウンロード以上。2016年、第23回松本清張賞応募作『バックドア』が最終候補となり、改題した『裏切りのプログラム ハッカー探偵 鹿敷堂桂馬』にて文藝春秋から小説家デビュー。近著は新潮社『レトロゲームファクトリー』。2019年12月に Nintendo Switch で、個人で開発した『Little Bit War（リトルビットウォー）』を出した。
『ハーバー・ビジネス・オンライン』（2020.06.16）
https://hbol.jp/221029?cx_clicks_art_mdl=1_title
今、東京の教育と民主主義が危ない!!
東京都の元「藤田先生を応援する会」有志による、教育と民主主義を守るブログです。