・アメリカの大都市が相次いで顔認証システムを禁止に（GIGAZINE 2020年06月29日)
※アメリカ・マサチューセッツ州の州都ボストンが、2020年6月24日に「当局による顔認証技術の使用を禁止する条例」を可決しました。また、同日にカリフォルニア州サンタクルーズ郡最大の都市サンタクルーズ市も同様の条例を可決したと報じられています。
街頭に設置されたカメラなどにより市民の顔を監視する「顔認証技術」については、指名手配犯の捜査や高齢者および迷子の捜索に不可欠として新たに導入する地域がある一方で、有色人種の誤検知率が高く人種差別的であるという指摘もあることから、EUが公共の場での使用禁止を検討したり、企業が顔認識技術市場からの撤退を表明したりと、官民の両方で消極的な動きが広がっています。
こうした社会情勢を受けて、ボストン市議会は6月24日に市当局による顔認識技術の使用を禁止する条例を可決しました。同議会のRicardo Arroyo議員とMichelle Wu議員が共同で作成したこの条例案は、13人の市議会議員の全会一致により決議されたとのことです。新法が議会を通過したことについて、マーティ・ウォルシュ市長の事務所は、条例案を精査の上署名の検討を行うことを発表しました。
Arroyo氏は条例制定に向けた公聴会で、「顔認証システムは明白な人種的偏見をはらんでおり、危険です」と指摘。Wu氏は、顔認証システムにより誤認逮捕された最初の事例が発生したことに触れて、「ボストン市は人種差別的なテクノロジーを使用すべきではありません」と述べました。
ボストン市警察は、目下のところ顔認証システムを導入していませんが、既に導入されている映像解析ソフトBriefCamのアップグレード版には顔認証技術が含まれているとのこと。ボストン市警察は、BriefCamをアップグレードするかどうかについて公表していませんが、ボストン市議会のリディア・エドワーズ議員は公聴会で、「市警の幹部は、『信頼性が低いためこの種のテクノロジーは使用しない』ことを明言しています」と述べました。
なお、この条例で顔認証技術の使用が禁止されたのは、あくまで警察を含む市当局のみであるため、FBIなどアメリカ政府に属する捜査機関や民間企業は対象となっていません。
また、ボストン市と同日に、カリフォルニア州にあるサンタクルーズ市議会も顔認証技術の使用を禁止する条例を全会一致で可決しました。この条例では顔認証技術だけでなく、統計的な分析などの予測手法を用いて犯罪を特定する「Predictive policing(予測的警備)」も禁止されています。ロイター通信の報道によると、アメリカで予測的警備が禁止されたのはこれが初の事例とのことです。
サンタクルーズ市のジャスティン・カミングス市長は条例について、「予測的警備と顔認証が有色人種に対しどれだけ差別的かを認識したため、当市は正式にこれらの技術の使用を禁止することとしました」とコメントしました。
・公共の場での顔認識技術の使用禁止をEUが検討中（GIGAZINE 2020年01月20日）
※欧州連合(EU)が、駅やスポーツスタジアム、ショッピングセンターなどの公共の場での顔認識技術の使用を一時的に禁止することを検討していることが明らかになりました。
EUの政策執行機関である欧州委員会の年次報告書の中で、EUが公共の場での顔認識技術の利用を一時的に禁止することを検討していることが明らかになりました。年次報告書の中には「顔認識技術の禁止」に関する初期草案がまとめられていたそうです。なお、草案の最終版は、人工知能規制に関する広範な見直しを行ったうえで、2020年2月に公開される予定となっています。
「顔認識技術の禁止」に関する初期草案は、EU一般データ保護規則に基づいたもので、「自動処理だけでなくプロファイリングをベースとした使用も対象になる」とのこと。これにより「公共の場における顔認識技術の使用に、時間制限付きの禁止制度が導入される」可能性があるそうです。
具体的には、「公共の場における個人あるいは著名人に対する顔認識技術の使用は、一定期間(3～5年)禁止され、その間に技術による影響と可能なリスク管理対策を開発し、リスク評価についての健全な方法論を設定することができます」と初期草案には記されています。
イギリスメディアのThe Guardianは、「『顔認識技術の禁止』のように、EUはしばしば人工知能分野の進歩を妨げるような政策を策定しようとしているため、イギリスのEU離脱における利点のひとつとして『人工知能分野での進歩』が挙げられる」と指摘。多くの批評家も、欧州委員会は「新しい技術に対して過度に慎重である」と指摘しています。
顔認識技術は近年最も急成長を遂げている分野のひとつ。イギリスでは複数の地方警察が、大衆の顔と犯罪容疑者の顔をマッチさせる顔認証システムを使用しています。同システムは誤検知率も多いということで度々批判の的となっているのですが、2019年9月にロンドンの高等裁判所が、サウスウェールズ警察の用いる顔認識システムは「人権法またはデータ保護法に違反するものではない」という判決を下しています。
他にも、ドイツでは134の駅と14の空港で顔認識技術の導入を検討しており、フランスでは顔認識システムを用いて政府のウェブサイトにアクセスできる最初のEU加盟国になることを計画しています。
欧州委員会は他にも医療・輸送・警察・司法といった分野での「人工知能の高リスク用途」について、法的拘束力のある最低基準を設けることを検討している模様。
なお、欧州委員会の広報担当者は「顔認識技術の禁止」に関する初期草案についてコメントすることを拒否しており、「人工知能の恩恵を完全に享受し、科学的ブレイクスルーを可能にし、EU企業のリーダーシップを維持し、診断とヘルスケアを強化し、農業の効率を高めることにより、すべてのEU市民の生活を改善したい」と述べています。
さらに、広報担当者は「利益を最大化しながら人工知能の課題に対処するためには、ヨーロッパ全体がひとつとなって行動し、独自の方法や既存の方法を定義していく必要があります。技術は目的と人々の役に立つものでなければいけません。したがって、EU市民の信頼と安全は、EUの戦略における中心となります。データは人工知能にとって不可欠な原料です。そのため、我々の社会とビジネスに富を生み出すために、ヨーロッパで生み出されるデータのロックを解除し、活用する必要があります。EUはほとんどの革新的な分野で世界をリードしており、ヨーロッパには業界で成功するために必要なものがすべてそろっています」と語っています。
・IBMが顔認識市場から撤退を表明、「テクノロジーが差別と不平等を助長することを懸念」（GIGAZINE 2020年06月09日）
※IBMが「テクノロジーが差別と人種的不平等を助長するために使われている」という懸念を発表し、汎用(はんよう)的な顔認識技術の市場から撤退する方針を発表しました。
IBMは2020年6月8日に「人種平等改革に関するIBM CEOの連邦議会への書簡」を発表。その中で、IBMのアルビンド・クリシュナCEOは「IBMは、大規模な監視やレイシャル・プロファイリング、基本的人権および自由の侵害、あるいは当社の価値観および信頼と透明性の原則に合致しない目的のために、他のベンダーの提供する顔認識技術を含めてあらゆる技術を使用することを断固として反対し、これを容認しません」と宣言しました。
また、「私たちは今こそ、顔認識技術を国内の法執行機関が採用すべきかどうか、またどのように採用すべきかについて、全国的な話し合いを始めるときだと考えています」とIBMは述べています。
IBMが顔認識市場から撤退することを発表したのは、2020年5月25日に黒人男性が白人警察官に取り抑えられて窒息死した「ジョージ・フロイドの死」と、それに端を発して急速に規模が拡大した黒人差別への抗議運動が背景にあります。
以前より「顔認識技術は法執行機関が運用するには正確性に欠ける」と指摘されています。たとえば、Amazonの顔認識技術「Amazon Relognition」を使って連邦議会議員の顔を犯罪者データベースと照合したところ、28人が犯罪者と誤認識されたという報告があります。
そんな顔認識技術の「公平性と正確性の向上」を目指して、IBMは2019年1月に100万人分の顔データを修めた膨大なデータセットを公開。しかし、このデータセットは写真共有サイト・Flickrの写真を無断で利用していた可能性が指摘され、問題となりました。
ニュースメディアのCNBCは、「IBMの顔認識事業は会社に大きな収益をもたらしていませんでした。しかし、アメリカ政府が主要な顧客であるIBMがこのような決定を行ったのは注目に値します」という関係者の証言を報じています。同関係者は「今回の決定はビジネス上のものでもあり、倫理的なものでもあります。ここ数週間、従業員を含む多くの関係者が顔認識技術の利用を懸念しています」と語りました。
・ロンドンの警察は誤検知率98％の顔認識システムで大衆を監視している（GIGAZINE 2018年07月06日）
※イギリスでは地方警察のいくつかでは、大衆の顔と犯罪容疑者の顔をマッチさせる顔認証システムを採用した監視カメラが用いられています。しかし、このシステムの誤検知率は98％にのぼっており、警察は「多くの逮捕に結びつくとは考えていない」にも関わらず使用を続けているという状況となっています。
イギリスには300万台以上の監視カメラが設置されており、「監視カメラ大国」と呼ばれることも。いくつかの地方警察は監視カメラの映像をAIに顔認証させ犯罪容疑者を見つけ出すシステム(自動顔認識システム／AFR)を採用していますが、「精度に疑問が残る」という点と「運用の透明性に欠ける」という点がかねてから批判されていました。
ロンドンもAFSを採用しテストしている場所のうちの1つです。ロンドン警視庁はコンサートやお祭り、サッカーの試合など、人が多く集まるイベントでモバイル監視カメラを起動させ、群衆を捉えて犯罪容疑者の顔と一致するかどうかをテストしているとのこと。
しかし、顔認識はそもそも、空港などの管理された環境で効果を発揮するものであり、人々が野放しの状態にある環境では利用が難しいとされています。イギリスの情報公開法のもとで発表されたデータは、ロンドン警視庁が使用するAFSは98％の誤検知率を有することを示しています。これは、AFSが「犯罪容疑者とマッチした」と示す人は、98％の確率で間違いであることを意味しています。
AFSがこれまでに正しく検知できたのは2件で、うち1件はすでに時効を迎えている人に対するもので、もう1件は精神的な問題を抱え著名人と接触を図ろうとする人だったため、いずれも逮捕にはつながりませんでした。
イギリスのテクノロジー系メディア・The Registerによると、ロンドン警視庁の警視総監であるCressida Dick氏は、AFSが「多くの逮捕に結びつくとは考えていない」としつつも、「人々は法施行機関がこのような最先端のシステムをテストすることを期待している」と述べたとのこと。
AFSは十分な議論が行われておらず、適切な調査をへていないにも関わらずに警察に採用されており、パブリックスペースを生体認証の検問所に変える恐れがあるともいわれています。これが抗議行動を行うことへの萎縮効果をもたらすことも、十分考えられるとのこと。
ビッグ・ブラザーもかくや、という状況はイギリスだけではありません。アメリカではAmazonが自社開発した顔認識ソフトウェアを、少なくとも2つの州の法執行機関と警察用ボディカメラ製造会社などに販売しているという状況が報じられています。
・イギリスの警察で運用される自動顔認証システムは「極めて不正確な精度で運用も不透明」と批判の声（GIGAZINE 2018年05月17日）
※300万台以上の監視カメラが設置される監視カメラ大国・イギリスでは、いくつかの地方警察が監視カメラの映像からAIによる顔認識で犯罪容疑者を見つけ出す自動顔認証システム(AFR)を採用しています。しかしイギリスのプライバシー保護機関であるNGO・Information Commissioner's Office(ICO)が、AIによる自動顔認識技術の運用は透明性が欠け、精度に疑問が残るという声明を発表しています。
AFRではまず、警察データベースにある容疑者の写真をソフトウェアで解析し、目・鼻・口など顔のパーツの大きさや位置のマッピングデータを作成します。その上で、監視カメラに映っている大勢の人の顔を一人一人スキャンしてマッピングデータと照合し、一致した場合には現場にいる警察官へ通報されます。警察官はその場で該当者と容疑者写真を見比べ、職務質問を行います。
実際に中国では同様のシステムで、コンサート会場で指名手配犯を顔認識システムで特定し逮捕することに成功しています。
しかし、イギリスではAFRがうまく機能していないようで、2017年のUEFAチャンピオンズリーグの決勝戦でAFRを使用したところ、2000人以上が容疑者と誤認されたということが判明しました。他にもさまざまなイベントでAFRが利用されましたが、認識率はどれも低いものだったとのこと。
実際にAFRを採用している南ウェールズ州警察は、AFRの判定がそのまま逮捕につながるわけではなく、AFRからの通報を受けた警察官による職務質問が行われるため、誤認逮捕は今のところ出ていないと主張しています。また、南ウェールズ州警察は「AFRの認識性能が悪いのは、データベースに用いられている容疑者写真の画質が悪すぎて解析が正しく行われなかったため」と弁明し、今後もAFRを使用していく方針を示しました。
警察はまずAFRの有用性を示す明確な証拠を提示すべきであると論じています。また、AFRの主要なコンポーネントとなる警察のデータベースには1900万もの顔写真が登録されていますが、イギリスでは法整備がきちんとされていないためにデータベースの写真が正しく運用されているかは不透明であるとICOは述べています。さらにICOのエリザベス・デナム氏は警察に顔認識技術の利用をやめるよう訴えていて、「顔認識技術に対する懸念が解決されなければ、国民のプライバシーが適切に保護されるために訴訟を検討します」と語っています。
また、監視カメラの設置政策に異を唱えるイギリスの市民団体「Big Brother Watch」は、イギリスの全警察組織に情報開示を請求しました。その結果、南ウェールズ州警察以外にも、ロンドン警視庁とレスターシャー州警察がAFRを試験的に導入していたことを認めました。レスターシャー州警察は2015年にAFRをテスト運用したとのことですが、2018年にはもう利用していないとのこと。また、ロンドン警視庁はBBCの取材に対して「広範囲の人びとを保護するため、また警察が大規模な事件捜査で犯罪者を捜し出すことができるか確認するために、AFRを試験的に利用している」とコメントしています。
イギリス内務省はBBCの取材に対して、2018年6月に新しい生体認識戦略を発表する予定とコメントし、「犯罪活動の変化や新しい要求に対応するために、警察を引き続き支援する」と述べています。
※アメリカ・マサチューセッツ州の州都ボストンが、2020年6月24日に「当局による顔認証技術の使用を禁止する条例」を可決しました。また、同日にカリフォルニア州サンタクルーズ郡最大の都市サンタクルーズ市も同様の条例を可決したと報じられています。
街頭に設置されたカメラなどにより市民の顔を監視する「顔認証技術」については、指名手配犯の捜査や高齢者および迷子の捜索に不可欠として新たに導入する地域がある一方で、有色人種の誤検知率が高く人種差別的であるという指摘もあることから、EUが公共の場での使用禁止を検討したり、企業が顔認識技術市場からの撤退を表明したりと、官民の両方で消極的な動きが広がっています。
こうした社会情勢を受けて、ボストン市議会は6月24日に市当局による顔認識技術の使用を禁止する条例を可決しました。同議会のRicardo Arroyo議員とMichelle Wu議員が共同で作成したこの条例案は、13人の市議会議員の全会一致により決議されたとのことです。新法が議会を通過したことについて、マーティ・ウォルシュ市長の事務所は、条例案を精査の上署名の検討を行うことを発表しました。
Arroyo氏は条例制定に向けた公聴会で、「顔認証システムは明白な人種的偏見をはらんでおり、危険です」と指摘。Wu氏は、顔認証システムにより誤認逮捕された最初の事例が発生したことに触れて、「ボストン市は人種差別的なテクノロジーを使用すべきではありません」と述べました。
ボストン市警察は、目下のところ顔認証システムを導入していませんが、既に導入されている映像解析ソフトBriefCamのアップグレード版には顔認証技術が含まれているとのこと。ボストン市警察は、BriefCamをアップグレードするかどうかについて公表していませんが、ボストン市議会のリディア・エドワーズ議員は公聴会で、「市警の幹部は、『信頼性が低いためこの種のテクノロジーは使用しない』ことを明言しています」と述べました。
なお、この条例で顔認証技術の使用が禁止されたのは、あくまで警察を含む市当局のみであるため、FBIなどアメリカ政府に属する捜査機関や民間企業は対象となっていません。
また、ボストン市と同日に、カリフォルニア州にあるサンタクルーズ市議会も顔認証技術の使用を禁止する条例を全会一致で可決しました。この条例では顔認証技術だけでなく、統計的な分析などの予測手法を用いて犯罪を特定する「Predictive policing(予測的警備)」も禁止されています。ロイター通信の報道によると、アメリカで予測的警備が禁止されたのはこれが初の事例とのことです。
サンタクルーズ市のジャスティン・カミングス市長は条例について、「予測的警備と顔認証が有色人種に対しどれだけ差別的かを認識したため、当市は正式にこれらの技術の使用を禁止することとしました」とコメントしました。
・公共の場での顔認識技術の使用禁止をEUが検討中（GIGAZINE 2020年01月20日）
※欧州連合(EU)が、駅やスポーツスタジアム、ショッピングセンターなどの公共の場での顔認識技術の使用を一時的に禁止することを検討していることが明らかになりました。
EUの政策執行機関である欧州委員会の年次報告書の中で、EUが公共の場での顔認識技術の利用を一時的に禁止することを検討していることが明らかになりました。年次報告書の中には「顔認識技術の禁止」に関する初期草案がまとめられていたそうです。なお、草案の最終版は、人工知能規制に関する広範な見直しを行ったうえで、2020年2月に公開される予定となっています。
「顔認識技術の禁止」に関する初期草案は、EU一般データ保護規則に基づいたもので、「自動処理だけでなくプロファイリングをベースとした使用も対象になる」とのこと。これにより「公共の場における顔認識技術の使用に、時間制限付きの禁止制度が導入される」可能性があるそうです。
具体的には、「公共の場における個人あるいは著名人に対する顔認識技術の使用は、一定期間(3～5年)禁止され、その間に技術による影響と可能なリスク管理対策を開発し、リスク評価についての健全な方法論を設定することができます」と初期草案には記されています。
イギリスメディアのThe Guardianは、「『顔認識技術の禁止』のように、EUはしばしば人工知能分野の進歩を妨げるような政策を策定しようとしているため、イギリスのEU離脱における利点のひとつとして『人工知能分野での進歩』が挙げられる」と指摘。多くの批評家も、欧州委員会は「新しい技術に対して過度に慎重である」と指摘しています。
顔認識技術は近年最も急成長を遂げている分野のひとつ。イギリスでは複数の地方警察が、大衆の顔と犯罪容疑者の顔をマッチさせる顔認証システムを使用しています。同システムは誤検知率も多いということで度々批判の的となっているのですが、2019年9月にロンドンの高等裁判所が、サウスウェールズ警察の用いる顔認識システムは「人権法またはデータ保護法に違反するものではない」という判決を下しています。
他にも、ドイツでは134の駅と14の空港で顔認識技術の導入を検討しており、フランスでは顔認識システムを用いて政府のウェブサイトにアクセスできる最初のEU加盟国になることを計画しています。
欧州委員会は他にも医療・輸送・警察・司法といった分野での「人工知能の高リスク用途」について、法的拘束力のある最低基準を設けることを検討している模様。
なお、欧州委員会の広報担当者は「顔認識技術の禁止」に関する初期草案についてコメントすることを拒否しており、「人工知能の恩恵を完全に享受し、科学的ブレイクスルーを可能にし、EU企業のリーダーシップを維持し、診断とヘルスケアを強化し、農業の効率を高めることにより、すべてのEU市民の生活を改善したい」と述べています。
さらに、広報担当者は「利益を最大化しながら人工知能の課題に対処するためには、ヨーロッパ全体がひとつとなって行動し、独自の方法や既存の方法を定義していく必要があります。技術は目的と人々の役に立つものでなければいけません。したがって、EU市民の信頼と安全は、EUの戦略における中心となります。データは人工知能にとって不可欠な原料です。そのため、我々の社会とビジネスに富を生み出すために、ヨーロッパで生み出されるデータのロックを解除し、活用する必要があります。EUはほとんどの革新的な分野で世界をリードしており、ヨーロッパには業界で成功するために必要なものがすべてそろっています」と語っています。
・IBMが顔認識市場から撤退を表明、「テクノロジーが差別と不平等を助長することを懸念」（GIGAZINE 2020年06月09日）
※IBMが「テクノロジーが差別と人種的不平等を助長するために使われている」という懸念を発表し、汎用(はんよう)的な顔認識技術の市場から撤退する方針を発表しました。
IBMは2020年6月8日に「人種平等改革に関するIBM CEOの連邦議会への書簡」を発表。その中で、IBMのアルビンド・クリシュナCEOは「IBMは、大規模な監視やレイシャル・プロファイリング、基本的人権および自由の侵害、あるいは当社の価値観および信頼と透明性の原則に合致しない目的のために、他のベンダーの提供する顔認識技術を含めてあらゆる技術を使用することを断固として反対し、これを容認しません」と宣言しました。
また、「私たちは今こそ、顔認識技術を国内の法執行機関が採用すべきかどうか、またどのように採用すべきかについて、全国的な話し合いを始めるときだと考えています」とIBMは述べています。
IBMが顔認識市場から撤退することを発表したのは、2020年5月25日に黒人男性が白人警察官に取り抑えられて窒息死した「ジョージ・フロイドの死」と、それに端を発して急速に規模が拡大した黒人差別への抗議運動が背景にあります。
以前より「顔認識技術は法執行機関が運用するには正確性に欠ける」と指摘されています。たとえば、Amazonの顔認識技術「Amazon Relognition」を使って連邦議会議員の顔を犯罪者データベースと照合したところ、28人が犯罪者と誤認識されたという報告があります。
そんな顔認識技術の「公平性と正確性の向上」を目指して、IBMは2019年1月に100万人分の顔データを修めた膨大なデータセットを公開。しかし、このデータセットは写真共有サイト・Flickrの写真を無断で利用していた可能性が指摘され、問題となりました。
ニュースメディアのCNBCは、「IBMの顔認識事業は会社に大きな収益をもたらしていませんでした。しかし、アメリカ政府が主要な顧客であるIBMがこのような決定を行ったのは注目に値します」という関係者の証言を報じています。同関係者は「今回の決定はビジネス上のものでもあり、倫理的なものでもあります。ここ数週間、従業員を含む多くの関係者が顔認識技術の利用を懸念しています」と語りました。
・ロンドンの警察は誤検知率98％の顔認識システムで大衆を監視している（GIGAZINE 2018年07月06日）
※イギリスでは地方警察のいくつかでは、大衆の顔と犯罪容疑者の顔をマッチさせる顔認証システムを採用した監視カメラが用いられています。しかし、このシステムの誤検知率は98％にのぼっており、警察は「多くの逮捕に結びつくとは考えていない」にも関わらず使用を続けているという状況となっています。
イギリスには300万台以上の監視カメラが設置されており、「監視カメラ大国」と呼ばれることも。いくつかの地方警察は監視カメラの映像をAIに顔認証させ犯罪容疑者を見つけ出すシステム(自動顔認識システム／AFR)を採用していますが、「精度に疑問が残る」という点と「運用の透明性に欠ける」という点がかねてから批判されていました。
ロンドンもAFSを採用しテストしている場所のうちの1つです。ロンドン警視庁はコンサートやお祭り、サッカーの試合など、人が多く集まるイベントでモバイル監視カメラを起動させ、群衆を捉えて犯罪容疑者の顔と一致するかどうかをテストしているとのこと。
しかし、顔認識はそもそも、空港などの管理された環境で効果を発揮するものであり、人々が野放しの状態にある環境では利用が難しいとされています。イギリスの情報公開法のもとで発表されたデータは、ロンドン警視庁が使用するAFSは98％の誤検知率を有することを示しています。これは、AFSが「犯罪容疑者とマッチした」と示す人は、98％の確率で間違いであることを意味しています。
AFSがこれまでに正しく検知できたのは2件で、うち1件はすでに時効を迎えている人に対するもので、もう1件は精神的な問題を抱え著名人と接触を図ろうとする人だったため、いずれも逮捕にはつながりませんでした。
イギリスのテクノロジー系メディア・The Registerによると、ロンドン警視庁の警視総監であるCressida Dick氏は、AFSが「多くの逮捕に結びつくとは考えていない」としつつも、「人々は法施行機関がこのような最先端のシステムをテストすることを期待している」と述べたとのこと。
AFSは十分な議論が行われておらず、適切な調査をへていないにも関わらずに警察に採用されており、パブリックスペースを生体認証の検問所に変える恐れがあるともいわれています。これが抗議行動を行うことへの萎縮効果をもたらすことも、十分考えられるとのこと。
ビッグ・ブラザーもかくや、という状況はイギリスだけではありません。アメリカではAmazonが自社開発した顔認識ソフトウェアを、少なくとも2つの州の法執行機関と警察用ボディカメラ製造会社などに販売しているという状況が報じられています。
・イギリスの警察で運用される自動顔認証システムは「極めて不正確な精度で運用も不透明」と批判の声（GIGAZINE 2018年05月17日）
※300万台以上の監視カメラが設置される監視カメラ大国・イギリスでは、いくつかの地方警察が監視カメラの映像からAIによる顔認識で犯罪容疑者を見つけ出す自動顔認証システム(AFR)を採用しています。しかしイギリスのプライバシー保護機関であるNGO・Information Commissioner's Office(ICO)が、AIによる自動顔認識技術の運用は透明性が欠け、精度に疑問が残るという声明を発表しています。
AFRではまず、警察データベースにある容疑者の写真をソフトウェアで解析し、目・鼻・口など顔のパーツの大きさや位置のマッピングデータを作成します。その上で、監視カメラに映っている大勢の人の顔を一人一人スキャンしてマッピングデータと照合し、一致した場合には現場にいる警察官へ通報されます。警察官はその場で該当者と容疑者写真を見比べ、職務質問を行います。
実際に中国では同様のシステムで、コンサート会場で指名手配犯を顔認識システムで特定し逮捕することに成功しています。
しかし、イギリスではAFRがうまく機能していないようで、2017年のUEFAチャンピオンズリーグの決勝戦でAFRを使用したところ、2000人以上が容疑者と誤認されたということが判明しました。他にもさまざまなイベントでAFRが利用されましたが、認識率はどれも低いものだったとのこと。
実際にAFRを採用している南ウェールズ州警察は、AFRの判定がそのまま逮捕につながるわけではなく、AFRからの通報を受けた警察官による職務質問が行われるため、誤認逮捕は今のところ出ていないと主張しています。また、南ウェールズ州警察は「AFRの認識性能が悪いのは、データベースに用いられている容疑者写真の画質が悪すぎて解析が正しく行われなかったため」と弁明し、今後もAFRを使用していく方針を示しました。
警察はまずAFRの有用性を示す明確な証拠を提示すべきであると論じています。また、AFRの主要なコンポーネントとなる警察のデータベースには1900万もの顔写真が登録されていますが、イギリスでは法整備がきちんとされていないためにデータベースの写真が正しく運用されているかは不透明であるとICOは述べています。さらにICOのエリザベス・デナム氏は警察に顔認識技術の利用をやめるよう訴えていて、「顔認識技術に対する懸念が解決されなければ、国民のプライバシーが適切に保護されるために訴訟を検討します」と語っています。
また、監視カメラの設置政策に異を唱えるイギリスの市民団体「Big Brother Watch」は、イギリスの全警察組織に情報開示を請求しました。その結果、南ウェールズ州警察以外にも、ロンドン警視庁とレスターシャー州警察がAFRを試験的に導入していたことを認めました。レスターシャー州警察は2015年にAFRをテスト運用したとのことですが、2018年にはもう利用していないとのこと。また、ロンドン警視庁はBBCの取材に対して「広範囲の人びとを保護するため、また警察が大規模な事件捜査で犯罪者を捜し出すことができるか確認するために、AFRを試験的に利用している」とコメントしています。
イギリス内務省はBBCの取材に対して、2018年6月に新しい生体認識戦略を発表する予定とコメントし、「犯罪活動の変化や新しい要求に対応するために、警察を引き続き支援する」と述べています。