Unstable DiffusionというNSFWを製作できるAIは表現の自由を求める人に支持されています。
ここでは成人のヌードは自由に生成できますが、CSAMの作成は禁じられています。
利用規約を見てみると、架空のキャラクターも含めて18歳未満に見えるもの、18歳未満のものはCSAM作成を禁じると書いてあります。日本の児童ポルノ禁止法より厳しい規制です。
また有名人のディープフェイクも禁止されています。
管理者により違法性のある画像は削除されます。また報告も受け付けています。何でもできるわけではありません。
米国の児童精神科医が治療中の患者を盗撮するだけでなく、AIで着衣の画像からディープフェイクを作成し禁錮40年の実刑判決を受けています。
CSAMについては厳しい刑事罰があります。
しかし成人のディープフェイクについては法整備が追いつかず、被害に遭っても犯人を処罰できません。
個人の同意なしに性的なディープフェイクの作成や共有を犯罪化する法律を制定しているのは米国の12州です(昨年10月時点）。
英国では昨年9月にディープフェイクやリベンジポルノなど有害コンテンツを規制するオンライン安全法案が可決されましたが、アプリの運営元にユーザーのプライベートなメッセージの監視を義務付け違約に巨額の賠償金を課していることが批判を浴び、法規制の難しさを示しています。
日本では特にAI使用に特化した規制法はありません。写真を改変した場合は現行法で著作権侵害、名誉棄損、民事で肖像権の侵害などを問うことはできますが、創作物は著作権で守るしかありません。女性のイラストをポルノ化する嫌がらせもあり、心理的に性暴力と等価です。ディープフェイクの被害者のクリエイターが広告主やスポンサーに契約を解消されることもあります。生成AIを利用したコンテンツの改変について写真か創作かを問わず被害者を守る法規制、及び自衛のための学習拒否の権利を求めます。