『ディープフェイクのポルノ』が可能ならば－
о新・映画
－として、たとえば、
о故オードリー・ヘップバーンとオードリー・ヘップバーンのローマの休日のリメイク
－を、
о全編カラー映像
－で観られるとか、
о故クリストファー・リーヴの新作スーパーマン
－が観られる。故マリリン・モンローはどうでもよいが、
о絶世の美女キャサリン・ゼタ＝ジョーンズの30代
－の、
о映像
－が観たいものだ。だが、
о20世紀の著作権利法
－が邪魔して出来ないであろう。
★ディープフェイク(deepfake,2017年)
出典: フリー百科事典『ウィキペディア(Wikipedia)』
ディープフェイクの例：オリジナルの女優エイミー・アダムス(左)が、男優ニコラス・ケイジの顔(右)に変更されている。
ディープフェイク(deepfake)は「深層学習(deep learning)」と「偽物(fake)」を組み合わせた混成語(かばん語)で、人工知能にもとづく人物画像合成の技術を指す。「敵対的生成ネットワーク(GANs)」と呼ばれる機械学習技術を使用して、既存の画像と映像を、元となる画像または映像に重ね合わせて(スーパーインポーズ)、結合することで生成される。既存と元の映像を結合することにより、実際には起こっていない出来事で行動している1人あるいは複数人の偽の映像が生み出されることとなる。
そのような偽の映像で、例えば、実際にはしていない性行為をしているように見せかけたり、実際とは異なる言葉やジェスチャーに変更するといった政治的な利用が可能となる。これらの機能により、有名人のポルノビデオまたはリベンジポルノの偽造作成のため、ディープフェイクが使用される可能性がある。さらに、ディープフェイクは、虚偽報道や悪意のあるでっち上げを作成するためにも使用され得る 。
目次
1 ディープフェイク
2 政治
3 メディア
4 ディープフェイクのソフトウェア
5 フィクションにおけるディープフェイク
6 批評
6.1 悪用
6.2 信頼性と信憑性への影響
6.3 インターネットの反応
7 参考文献
8 関連項目
9 外部リンク
ディープフェイク
2017年にインターネット上で、特にRedditでディープフェイクのポルノが初めて現れ、現在ではReddit、Twitter、Pornhubなどのサイトで禁止されている。2017年秋、"Deepfakes" というハンドルネームの匿名のRedditユーザーがインターネットにいくつかのポルノビデオを投稿した。注目を集めた最初のものは、デイジー・リドリーのディープフェイクだった。それはまた、よく知られたディープフェイクビデオの1つで、いくつかの記事の中でひときわ目立つものであった。ほかのディープフェイクとして、継兄弟と性行為をしているワンダーウーマンを演じた女優のガル・ガドット、また、エマ・ワトソン、ケイティ・ペリー、テイラー・スウィフト、スカーレット・ヨハンソンがあった。人工知能を使用して作成された、それらのビデオは本物ではなく、ほどなく偽物であることが暴かれた。
時間が経つにつれて、Redditのコミュニティは偽造ビデオの多くのバグを修正し、偽物と本物のコンテンツを区別することが次第に困難になった。オンラインで容易に入手できる女優の非ポルノの写真やビデオは、ソフトウェアのための訓練データとして使用された。ディープフェイク現象は、2017年12月に、雑誌Vice(en:Vice(magazine))の技術と科学の欄で初めて報告され、他のメディアでも広く報道された。
2018年12月、頻繁にディープフェイクポルノの対象となっているスカーレット・ヨハンソンが、ワシントン・ポストの取材に対し、以下のように語っている。用意した声明の中で、彼女はこの現象についての懸念を表明し、インターネットを「自分自身を食べる暗黒の巨大なワームホール」と表現している。しかし、それが自分の公共のイメージに影響を及ぼさないこと、そして国によって法律が異なること、インターネット文化の性質(ストライサンド効果)によりディープフェイクを削除するどのような試みも無駄な努力になること、以上の考えから、彼女は、自分のディープフェイクの削除を試みようとはしないと述べた。彼女は、自分自身のような有名人は名声によって保護されているが、一般女性にとっては、不本意なポルノやリベンジポルノの描写によって評判が損なわれる可能性のある深刻な脅威をもたらす、と考えている。
英国では、ディープフェイクの製作者を嫌がらせで起訴できるが、ディープフェイクを特定の犯罪に指定することが求められている。米国では、なりすまし、サイバーストーカー、リベンジポルノのようなさまざまなものが告発される、さらに包括的な法令にしていこうとする動きもある。
Pornhubなどのポルノ動画サイトでは、日本人女優やアイドルのディープフェイクの動画があり、BuzzFeed Newsが確認しただけでも10個以上は存在し、多いものでは300万回以上再生されているものもあった。
サイバーセキュリティ会社「DeepTrace」の2019年10月の調査によると、過去7か月で1万4678件のディープフェイク動画が確認され、1年で倍増しており、その96％がポルノ動画だった。ディープフェイクに特化した上位4つのポルノサイトでは、数百人の女性有名人のフェイク動画が、計1億3400万回以上も再生されているという。
政治
ディープフェイクは、有名な政治家を、ビデオポータルやチャットルームで、事実と異なるかたちで伝えるために使用されている。例えば、アルゼンチン大統領のマウリシオ・マクリの顔はアドルフ・ヒトラーの顔に、そしてアンゲラ・メルケルの顔はドナルド・トランプの顔に置き換えられた。トランプが支那を訪問していた2017年11月に支那企業のiFlytekは流暢な支那語を話して自社とAIを褒めたたえるトランプのディープフェイクを披露して波紋を呼んだ。2018年4月、ジョーダン・ピールとJonah Peretti(en:Jonah Peretti)は、ディープフェイクの危険性に関する公共広告として、バラク・オバマを使ったディープフェイクを作成した。2019年1月、KCPQは、オーバルオフィス(大統領執務室)におけるトランプの演説のディープフェイクを放映し、彼の外観と肌の色をあざけった。
メディア
支那では国営メディアの新華社がディープフェイクの技術を用いて実在のアナウンサーから合成した世界初の人工知能ニュースキャスターが開発されており、政府の重要な会議の報道でも使用された。この技術はロシアやアラブ首長国連邦の国営メディアでも採用されている。
しかし、ディープフェイクは虚偽報道であるフェイクニュースを助長させるとして問題視されており、2019年11月に支那政府は2020年からディープフェイクを使用したフェイクニュースを禁止することを発表した。
国内において2020年10月ディープフェイクを利用したわいせつ映像を有料公開していた者が著作権法違反及び名誉毀損で検挙され、報道されている。
ディープフェイクのソフトウェア
2018年1月、FakeAppというデスクトップのアプリケーションが発表された。このアプリケーションでは、ユーザーが顔を入替えた動画を簡単に作成および共有できる。このアプリケーションは、フェイクビデオを生成するために、人工ニューラルネットワーク、グラフィックプロセッサのパワー、そして3〜4ギガバイトのストレージスペースが必要である。詳細な情報については、プログラムは、ビデオシークエンスおよび画像に基づくディープラーニングのアルゴリズムを使用して、どの画像アスペクトを交換しなければならないかを学習するため、挿入されるべき人物からの多くの視覚材料を必要とする。
そのソフトウェアは、グーグルの人工知能-フレームワークであるTensorFlowを使用する、それは、とりわけコンピュータビジョンのプログラムであるDeepDream(en:DeepDream)のためにすでに使用されていた。有名人はそのような偽のセックスビデオの主な標的となっているが、一般の人々も影響を受けている。2018年8月、カリフォルニア大学バークレー校の研究者は、人工知能を使って子どもをプロのダンサーに置き換えることができるフェイクダンスアプリケーションを紹介する論文を発表した。
2019年8月、支那で1枚の顔写真でディープフェイクを作成できるZAOというアプリケーションが発表されて同年9月にApp Storeの人気ランキングで1位になるもユーザーの同意なしにデータを使用される可能性があるプライバシーポリシーが物議を醸し、アメリカでは選挙介入やフェイクニュースに利用される可能性を懸念する声があがった。
フィクションにおけるディープフェイク
ディープフェイクや有名人のフェイクポルノの現象は、 Michael Grothaus(en:Michael Grothaus)による小説「Epiphany Jones」で探求されている。この小説は、文学的なスリラー、社会風刺、であり、セックス、有名人、インターネット対するアメリカの強迫観念についての暗いコメディである、またポルノ中毒者と神と話すことができると考える女との不本意な関係、およびハリウッドエリートへ性的な人身売買を行う業者との交絡を探る内容である。小説の主人公、ジェリー・ドレスデンは、有名人のフェイクポルノへの中毒に苦しんでいる。小説で言及されている特定の有名人の偽物には、ナタリー・ポートマン、スカーレット・ヨハンソン、ハレ・ベリー、アンジェリーナ・ジョリー、ケイト・ベッキンセール、プッシーキャット・ドールズ、が含まれる。さらに、ジュディ・ガーランドとオードリー・ヘップバーンといった死亡した有名人の偽物についても小説に記載されている。
批評
悪用
スイスに本社を置く新聞社であるAargauer Zeitung(en:Aargauer Zeitung)は、人工知能を使った画像やビデオの操作は、危険な大量のメディアがあふれることになる可能性があると述べている。しかし、画像やビデオの改ざん自体は、動画編集ソフトウェアや画像編集ソフトウェアの登場よりもずっと古いものであり、このたびのディープフェイクの場合、新しい側面はそのリアリズムにある。
標的を絞ったデマやリベンジポルノにディープフェイクを使用することも可能である。
信頼性と信憑性への影響
ディープフェイクのもう1つの効果は、その内容が標的となった偽物(例えば風刺)なのか本物なのかを区別できなくなることである。人工知能の研究者であるAlex Champandardは、この技術によって今日のものがどれだけ速く改変され得るか、そして問題は技術的なものではなく、情報とジャーナリズムの信頼によって解決されるものであるということを、すべての人が知っておくべきであると述べた。最重要な落とし穴は、描写されているメディアが真実に対応しているかどうかを、もはや判断できなくなる時代に人類が陥る可能性があることである。
インターネットの反応
TwitterやGfycatなどのいくつかのウェブサイトでは、ディープフェイクのコンテンツを削除し、その発行元をブロックすると発表している。以前、チャットプラットフォームのDiscordは、有名人のフェイクポルノビデオのチャットチャンネルをブロックした。ポルノグラフィのウェブサイトの Pornhubもそのようなコンテンツをブロックする予定であるが、その禁止を強制していないと報告されている。Redditでは、2018年2月7日に「不本意のポルノ」のポリシー違反により、subreddit(Redditのサブフォーラム)が一時停止されるまで、初期の状態が削除されないまま残っていた。2018年9月、グーグルは、誰もが自分の本物あるいは偽物ヌードのブロックを要求でき、その禁止リストに「不本意の合成ポルノ画像」追加した。
カテゴリ:
ポルノグラフィ
コンピュータグラフィックス
人工知能アプリケーション
－
о“「深層学習(deep learning)」と「偽物(fake)」を組み合わせた混成語(かばん語)で、人工知能にもとづく人物画像合成の技術を指す”
о“「敵対的生成ネットワーク(GANs)」と呼ばれる機械学習技術を使用して、既存の画像と映像を、元となる画像または映像に重ね合わせて(スーパーインポーズ)、結合することで生成される”
о“偽の映像で、例えば、実際にはしていない性行為をしているように見せかけたり、実際とは異なる言葉やジェスチャーに変更するといった政治的な利用が可能となる”
о“有名人のポルノビデオまたはリベンジポルノの偽造作成のため、ディープフェイクが使用される可能性がある”
о“2017年にインターネット上で、特にRedditでディープフェイクのポルノが初めて現れ、現在ではReddit、Twitter、Pornhubなどのサイトで禁止されている”
о“2017年秋、"Deepfakes" というハンドルネームの匿名のRedditユーザーがインターネットにいくつかのポルノビデオを投稿した。注目を集めた最初のものは、デイジー・リドリーのディープフェイクだった”
о“継兄弟と性行為をしているワンダーウーマンを演じた女優のガル・ガドット、また、エマ・ワトソン、ケイティ・ペリー、テイラー・スウィフト、スカーレット・ヨハンソンがあった”
о“ディープフェイク現象は、2017年12月に、雑誌Vice(en:Vice(magazine))の技術と科学の欄で初めて報告され、他のメディアでも広く報道された”
о“2018年12月、頻繁にディープフェイクポルノの対象となっているスカーレット・ヨハンソンが、ワシントン・ポストの取材に対し、以下のように語っている”
о“この現象についての懸念を表明”
о“インターネットを「自分自身を食べる暗黒の巨大なワームホール」と表現している”
о“インターネット文化の性質(ストライサンド効果)によりディープフェイクを削除するどのような試みも無駄な努力になること、以上の考えから、彼女は、自分のディープフェイクの削除を試みようとはしないと述べた”
о“彼女は、自分自身のような有名人は名声によって保護されているが、一般女性にとっては、不本意なポルノやリベンジポルノの描写によって評判が損なわれる可能性のある深刻な脅威をもたらす”
о“米国では、なりすまし、サイバーストーカー、リベンジポルノのようなさまざまなものが告発される、さらに包括的な法令にしていこうとする動きもある”
о“Pornhubなどのポルノ動画サイトでは、日本人女優やアイドルのディープフェイクの動画があり、BuzzFeed Newsが確認しただけでも10個以上は存在し、多いものでは300万回以上再生されているものもあった”
о“サイバーセキュリティ会社「DeepTrace」の2019年10月の調査によると、過去7か月で1万4678件のディープフェイク動画が確認され、1年で倍増しており、その96％がポルノ動画だった”
о“ディープフェイクに特化した上位4つのポルノサイトでは、数百人の女性有名人のフェイク動画が、計1億3400万回以上も再生されているという”
о“トランプが支那を訪問していた2017年11月に支那企業のiFlytekは流暢な支那語を話して自社とAIを褒めたたえるトランプのディープフェイクを披露して波紋を呼んだ”
о“2019年1月、KCPQは、オーバルオフィス(大統領執務室)におけるトランプの演説のディープフェイクを放映し、彼の外観と肌の色をあざけった”
о“支那では国営メディアの新華社がディープフェイクの技術を用いて実在のアナウンサーから合成した世界初の人工知能ニュースキャスターが開発されており、政府の重要な会議の報道でも使用された”
о“ディープフェイクは虚偽報道であるフェイクニュースを助長させる”
о“2019年11月に支那政府は2020年からディープフェイクを使用したフェイクニュースを禁止することを発表した”
о“国内において2020年10月ディープフェイクを利用したわいせつ映像を有料公開していた者が著作権法違反及び名誉毀損で検挙され、報道されている”
о“2018年1月、FakeAppというデスクトップのアプリケーションが発表された。このアプリケーションでは、ユーザーが顔を入替えた動画を簡単に作成および共有できる。このアプリケーションは、フェイクビデオを生成するために、人工ニューラルネットワーク、グラフィックプロセッサのパワー、そして3〜4ギガバイトのストレージスペースが必要である。詳細な情報については、プログラムは、ビデオシークエンスおよび画像に基づくディープラーニングのアルゴリズムを使用して、どの画像アスペクトを交換しなければならないかを学習するため、挿入されるべき人物からの多くの視覚材料を必要とする”
о“ソフトウェアは、グーグルの人工知能-フレームワークであるTensorFlowを使用する”
о“2018年8月、カリフォルニア大学バークレー校の研究者は、人工知能を使って子どもをプロのダンサーに置き換えることができるフェイクダンスアプリケーションを紹介する論文を発表した”
о“2019年8月、支那で1枚の顔写真でディープフェイクを作成できるZAOというアプリケーションが発表されて同年9月にApp Storeの人気ランキングで1位になるもユーザーの同意なしにデータを使用される可能性があるプライバシーポリシーが物議を醸し、アメリカでは選挙介入やフェイクニュースに利用される可能性を懸念する声があがった”
о“ディープフェイクや有名人のフェイクポルノの現象は、 Michael Grothaus(en:Michael Grothaus)による小説「Epiphany Jones」で探求されている。この小説は、文学的なスリラー、社会風刺、であり、セックス、有名人、インターネット対するアメリカの強迫観念についての暗いコメディである、またポルノ中毒者と神と話すことができると考える女との不本意な関係、およびハリウッドエリートへ性的な人身売買を行う業者との交絡を探る内容である”
о“ナタリー・ポートマン、スカーレット・ヨハンソン、ハレ・ベリー、アンジェリーナ・ジョリー、ケイト・ベッキンセール、プッシーキャット・ドールズ”
о“ジュディ・ガーランド”
о“オードリー・ヘップバーン”
о“ディープフェイクの場合、新しい側面はそのリアリズムにある”
о“ディープフェイクのもう1つの効果は、その内容が標的となった偽物(例えば風刺)なのか本物なのかを区別できなくなることである”
о“最重要な落とし穴は、描写されているメディアが真実に対応しているかどうかを、もはや判断できなくなる時代に人類が陥る可能性があることである”
о“ポルノグラフィのウェブサイトの Pornhubもそのようなコンテンツをブロックする予定であるが、その禁止を強制していないと報告されている”
о“Redditでは、2018年2月7日に「不本意のポルノ」のポリシー違反により、subreddit(Redditのサブフォーラム)が一時停止されるまで、初期の状態が削除されないまま残っていた”
－という。やはり、
оキャサリン・ゼタ＝ジョーンズが、裏ビデオに生本番で性器を開くわけがない
－から、
оディープフェイク・ポルノ
－でいいから制作ネット放映して欲しいものだ。(つづく)＜記20年11月07日＞〈17,528Byte〉