これは元々は、AIで画像認識の学習に介入して邪魔するために考え出されたアルゴリズムといいますか、強化学習法です。
著名なのがGAN(Generative Adversial Newtwork）というもので、にせものの画像を意図的に作り出す部分と、それが本物か偽物なのかを判定させる部分にわけ、それぞれにDNN(Deep Neural Network）でモデルを組んでやるもののようです。
しかし、応用は早く、例えばリコーはロボットの模倣学習にこのGANをベースに新たにアルゴリズムを開発し実践適用を試みています。
またセキュリティ分野では、敵対的生成ネットワークを用いた攻撃を防御する研究も進んできている。
AIを狂わせるためにAIで攻撃し、それをAIで防御する。世界中で血眼になって知恵を振り絞っているのでしょう。
この世界は動きが猛烈に早く、半年たつと何かが出現し、１年もすると新たな構図が出来上がる。面白いといえば面白いですが、世界の進運に後れざらんことを日本の研究者、エンジニアも期してほしいですね。