生成AIによってディープフェイクが簡単に作れるため被害が増加しています。少ないデータでも生成でき、芸能人のようにネットに公開している写真や動画が多くなくても、一般人が被害に遭う場合もあります。
ディープフェイクポルノの被害者女性と、製作しネットで販売、収益化している男性へのインタビューです。
米国の女子大生が被害に遭い、突き止めた加害者は処罰されないままです。居住地に対応する法律がないからです。
性的コンテンツを作るだけなら罪に問われなくてもそれを用いてセクストーション（性的脅迫）を行えば罪になります。
Passant Khaled, 17, took her own life after a young man she rejected spread deepfake porn of her.
— Genevieve Gluck (@WomenReadWomen) January 10, 2022
Passant took poison and died on December 23, leaving a final note to her mother.
“Mum, believe me, the girl in those pictures is not me,” she wrote.https://t.co/YmwfSwDG9Z pic.twitter.com/LQyrTbZIvf
この少女のディープフェイクポルノ写真とビデオをばらまき自殺させた2人の男性が逮捕されました。
犯人の男性は少女の携帯電話にハッキングして写真を入手し裸の少女と合成してポルノ写真、ビデオに加工して脅迫しました。
Photoshopを使用したと書かれています。
スペインで14歳の少女がディープフェイクポルノの被害に遭い、同じような被害を受けた少女が20人はいるということです。
AIによって生成された自身のヌード画像が突如ネット上で公開されたとして、スペインで多くの少女が被害を訴えている。責任の所在が曖昧になりがちなAI活用の懸念点が露呈。https://t.co/FiIpOQjvlb
— Chihiro M. (@chivillain) September 20, 2023
日本で初摘発、芸能人のディープフェイクポルノ製作で逮捕。
日本人被害者のインタビューです。
豪州の事件。被害者も加害者も未成年。
日本でも被害が増加しています。
犯人が知人であるケースもあり、ネットの情報公開範囲を絞っても未然に防ぐことはできません。
これを「表現の自由」の名のもとに規制なしで放置することには反対です。ダメージを受けた被害者は表現の自由を失います。
まだ被害に遭っていなくても、リスクを考えて情報を発信しにくくなります。私もイラストを保護ツールなしで投稿できません。ポルノに加工することが簡単にできるためです。
フェイクポルノは他人を傷つけ、命をも奪いかねない暴力です。
記事にはPhotoshopでディープフェイクを作られたケースもあります。生成AIと両方使われることもあります。生成AIが使われているとは限りませんが、誰でも簡単にできるようになったことで被害が多発し加害者が低年齢化しています。AIで顔を入れ替えるアプリが作られ子供にも使われています。
表現の自由を守るためには、生成AIに対応した法整備が必要だと思います。