日本のアニメやイラスト、芸能人、有名人のLoRA(追加学習モデル)が多数公開されている米国のCivitaiに性的画像を投稿されている人がいます。中にはDMCA申請をしても削除されないモデルもあり、やられたら取り返しがつかないのが現状です。
Civitaiの性表現規制がどうなっているのかコンテンツポリシーを確認してみます。
よくある実在人物の肖像は、非営利であり、寄付の勧誘のやビジネスの宣伝を含まない、性的・挑発的でないものに限られ、同意のないものは要求に応じ削除されることがある、と制限されています。
未成年の性的画像は禁止されています。写実的な画像も、ロリやショタコンなどのアニメジャンルを含む未成年の性的画像も全て禁止されています。未成年者の服装は年齢にふさわしい保守的なものにすることとされています。
未成年については厳しい規制があります。
ただし成人については、不快な表現の制約はありますが、性的な描写は禁止されていません。実際日本のアニメやイラストを性的に描写した画像を含むモデルが投稿されています。
NSFWモデルが多数投稿されています。
ポリシーに違反していると思う画像は報告してほしいと書かれていますが、私の知る人が性的、暴力的モデルを作られ、DMCA申請をしても削除されないという結果になっています。報告しても削除されるとは限りません。
モデルの作成者は日本人ばかりでなく外国人も多数います。海外で人気のある人はモデルも多く作られます。中には商用利用を禁止していないモデルもあり、海賊版を作る素材になります。
自衛のためにサインやウォーターマークを入れる、画像保護ツールを使う人が増えるのは当然です。
LoRAに限らず、画像を無断で広告に使われる、海賊版・グッズを作られ販売される、ということは国内でも海外でもありますし詐欺やセクストーションのような犯罪にも利用されます。
こうした画像の不本意な利用を防ぐために、サインやウォーターマークを入れることは昔から行われてきました。
米国はフェアユースが条件付きで認められていますが、無断利用を禁止するウォーターマークを入れると、無断転載を減らす効果があるそうです。画像保護ツールも、ディープフェイク(ポルノ)、剥ぎコラ、未成年の性的なモデルを無断で作らせないために活用できます。保護ツールが生成AIの学習の妨害だという意見も見ますが、そもそも画像は生成AIの素材として提供するためにアップしているわけではありません。昔からアイコンやグッズや海賊版を散々作られ、それを防止するために工夫してきた対策をやめることはできません。
今まで何もしなかった人こそ対策を取ってほしいと思います。