４月19日『フランケンシュタインの誘惑』という科学番組をNHKBSで見ました。
生成AIで作られた著名人の顔が本人そっくりで、それが悪用されて多くの被害者が出ているという話から始まりました。生成AIの専門家は、「よく似ているがどこかオカシイ」という印象があった。よくよく見ていたら、目がまばたきをしていないことに気付いたというのです。そして、まばたきをしないことを基準とした、生成AIによるニセモノであると見破るソフトを開発して、フェイクを退治できたというのです。
ところがそれでメデタシ！メデタシ！ではなかった。しばらくして、まばたきをする生成AIが開発され、せっかくのソフトが使いものにならなくなってしまった。現在、そのようなイタチごっこが止まらなくなっているというのです。
この問題の行き着くところは、フェイクが横行することではない、ホンモノに対する信頼が根本的に揺らいでしまったことにあるというのです。ホンモノが逆にフェイク、ニセモノではないかと疑われることになってきているのです。
ホンモノとフェイクを区別することが原理的に不可能な世界に私たちは入り込んでしまったらしいのです。それは人間のあらゆる営みから意味と価値を奪い取ってしまいかねない時代の到来です。おそろしいことです。