カラパイア：AI監視カメラから逃れたい？簡単な印刷物を1枚持っているだけでカメラの目から逃れることができる（ベルギー研究）2019年05月01日より転載します。
貼り付け開始
http://karapaia.com/archives/52273790.html
いたるところに監視カメラがある時代だ。AI（人工知能）の画像認識技術は普遍的なものとなり、カメラに映る人物を特定するのも容易となった。
今や私たちは、お店や職場にいる間にもAIによって顔や体を見つめられているかもしれないのだ。
国によっては、こうした技術を警察や監視体制の中に積極的に採用しようとするところもある。まさにビッグブラザーが見ているような社会だ。
なんだか息苦しくなってくる話だが、ベルギーのルーヴェン・カトリック大学の研究者によれば、ちょっとしたカラーの印刷物でかんたんにAI監視システムの目を騙せるという。
動画では、まず、左側の男性はYOLOによって「人（person）」と認識されているが、右側の男性はまったく無視されてしまっている。
両者の違いは、右側の男性がお腹のところに40×40センチのカラーの印刷物を持っていることだ。そして、右の男性がためしにその印刷物をくるりと回して真っ白な裏側にしてみると、ただちに人と認識された。
ちなみに鳥の絵柄入りのTシャツを着た場合には、人ではなく鳥と認識されたりするそうだ。
Generating adversarial patches against YOLOv2
ほとんどのAIの認識能力は、ニューラルネットワークに物体のサンプルを与え、それがきちんと対象を判断できるようになるまでパラメーターを調整することで完成される。
ところが、このパラメーターは数百万という膨大なものである。
そのため、AIの訓練を行なっている人にとってすらも、その中身はブラックボックス化しており、具体的にどのように物体を認識しているのかわからないのだ。
今回、カラーの印刷物でAIをごまかせるという欠陥が明らかになった。だから、その印刷物を持っていても人であるとAIに教えることはできるだろう。
なのでこの動画が出回るころには既に対処されているはずだ。
しかし、ほかにも欠陥があるだろうことはまず間違いない。そしてAIがブラックボックスと化してしまっている以上、それらすべての欠陥を修正することは至難の技である。
AIを騙す方法はほかにもあるはずだ。
それが発見されれば修正される。だがまた別の欠陥が――。
さあ、いたちごっこのはじまりだ。
References:KU Leuven researchers make themselves invisible to AI cameras – KU Leuven News/ written by hiroching / edited by parumo あわせて読みたい
汚職を取り締まるために導入したAI（人工知能）が高性能すぎてお蔵入りに（中国）
驚愕！この世に存在しない人物の顔をクリック一つで次から次へと生成するサイトが登場
お前は常に見張られている。生徒の行動を監視するため、中国の学校で採用された顔認証カメラ
顔認証アプリで本人を特定。地下鉄で見かけた人を撮影しSNSから本人を特定するプロジェクト（ロシア）
悪用の危険性を考慮して、Googleが顔認証技術の販売を中止
貼り付け終わり、
＊盲点ですなー！
＞さあ、いたちごっこのはじまりだ。
・ですねｗ
http://karapaia.com/archives/52273790.html
いたるところに監視カメラがある時代だ。AI（人工知能）の画像認識技術は普遍的なものとなり、カメラに映る人物を特定するのも容易となった。
今や私たちは、お店や職場にいる間にもAIによって顔や体を見つめられているかもしれないのだ。
国によっては、こうした技術を警察や監視体制の中に積極的に採用しようとするところもある。まさにビッグブラザーが見ているような社会だ。
なんだか息苦しくなってくる話だが、ベルギーのルーヴェン・カトリック大学の研究者によれば、ちょっとしたカラーの印刷物でかんたんにAI監視システムの目を騙せるという。
カラープリントを持つとAIに人物認証されない
実験に用いられたのは、オープンソースの物体認識システムとしてよく使われる「YOLO v2」である。動画では、まず、左側の男性はYOLOによって「人（person）」と認識されているが、右側の男性はまったく無視されてしまっている。
両者の違いは、右側の男性がお腹のところに40×40センチのカラーの印刷物を持っていることだ。そして、右の男性がためしにその印刷物をくるりと回して真っ白な裏側にしてみると、ただちに人と認識された。
ちなみに鳥の絵柄入りのTシャツを着た場合には、人ではなく鳥と認識されたりするそうだ。
Generating adversarial patches against YOLOv2
AIの盲点、ブラックボックス
研究者によれば、なぜこんなことでAIが人を認識できなくなるのかはっきりとはわからないそうだ。ほとんどのAIの認識能力は、ニューラルネットワークに物体のサンプルを与え、それがきちんと対象を判断できるようになるまでパラメーターを調整することで完成される。
ところが、このパラメーターは数百万という膨大なものである。
そのため、AIの訓練を行なっている人にとってすらも、その中身はブラックボックス化しており、具体的にどのように物体を認識しているのかわからないのだ。
さあ、いたちごっこの始まりだ
これによるセキュリティの穴は結構深刻だ。今回、カラーの印刷物でAIをごまかせるという欠陥が明らかになった。だから、その印刷物を持っていても人であるとAIに教えることはできるだろう。
なのでこの動画が出回るころには既に対処されているはずだ。
しかし、ほかにも欠陥があるだろうことはまず間違いない。そしてAIがブラックボックスと化してしまっている以上、それらすべての欠陥を修正することは至難の技である。
AIを騙す方法はほかにもあるはずだ。
それが発見されれば修正される。だがまた別の欠陥が――。
さあ、いたちごっこのはじまりだ。
References:KU Leuven researchers make themselves invisible to AI cameras – KU Leuven News/ written by hiroching / edited by parumo あわせて読みたい
汚職を取り締まるために導入したAI（人工知能）が高性能すぎてお蔵入りに（中国）驚愕！この世に存在しない人物の顔をクリック一つで次から次へと生成するサイトが登場お前は常に見張られている。生徒の行動を監視するため、中国の学校で採用された顔認証カメラ顔認証アプリで本人を特定。地下鉄で見かけた人を撮影しSNSから本人を特定するプロジェクト（ロシア）悪用の危険性を考慮して、Googleが顔認証技術の販売を中止貼り付け終わり、
＊盲点ですなー！
＞さあ、いたちごっこのはじまりだ。
・ですねｗ