長年漫画と関わっており、表現の自由を尊重し、守りたいと思い創作物規制強化の動きを警戒して発言してきました。
現在も反対しています。
しかし生成AIによるディープフェイクポルノ、合成CSAMは規制すべきだと考えます。実在する被害者がデータセットに含まれており、傷つける恐れがあるからです。
写真がモデルの製作に使われ、追加学習され、生成に利用されることは性被害の追認になり、生産、再生産になります。
生成AI開発側の規約ではポルノを含むアダルトコンテンツの生成は規制されています。
OpenAIもStableDiffusionもMidjourneyもUnsatebleDiffusionもCSAM、ディープフェイクポルノの製作は禁止しています。
ユーザーが規約に従う限り問題ありません。しかし実際は規約は守られていないことが問題です。
本当になんとかしていただけないでしょうか
— 佐倉さく (@39ra39x) April 10, 2024
日本は児童ポルノ、CSAM天国の状態です
ただ投稿しているだけの普通の女児が、裸体生成されていて、非公開のdiscord等で売買されています pic.twitter.com/PE7XHuCzV3
Xユーザーを対象にしたアンケートでは4割近くがセンシティブ（アダルトコンテンツ)を製作していると回答しています。中には写真と見まがうフォトリアルなイラストもあります。イラスト集も多数販売されています。規約に反するアダルトコンテンツに人気があり、一部が悪用しているだけとはいえません。
そうしたコンテンツの製作に写真を使われる人が大勢おり、同意は得られていません。18歳以上の成人なら写真をポルノの素材にしてかまわないということはありません。似ていなければ良いというわけでもありません。体を使われて抗議する人もいます。
開発企業の多くは米国にあり、投稿するプラットフォームも多くが米国にあるため、日本の法律が及ばない難しさがあります。
米国にはディープフェイクを規制する連邦法がない（現在は法案が提出されている）ため生成AIが脱法利用されています。日本人のユーザーもそれに乗じている形です。
外国との連携が必要ですし、国内でも製作、投稿、共有を法規制すべきだと考えます。
現行法の児童ポルノ禁止法は非親告罪ですが、成人の名誉棄損罪は親告罪です。被害者が告訴しないと逮捕も起訴もできません。
生成AIは量産できますから、人間の目が追いつきません。有名人ならディープフェイクも発見されやすく逮捕者も出ていますが、一般人は本人が気づかない場合が多く、気づいた時には加害者のログが消えて特定できず、告訴することもできなくなります。
また現行法では顔が似ていなければ罪に問うのは困難です。
非親告罪でAIによるCSAM、成人の合成ポルノを法規制する必要があります。モデルの特定を条件とせずに禁止すべきです。
そもそも開発側が利用規約で禁止していることです。規約に実効性を与える法規制が開発の妨げになることはないはずです。
昨年BBCの取材を受けたStabilityAIは、CSAMの製作を含め製品の違法、非倫理的は悪用は禁止しており、悪用する者に対して法執行機関の努力を強く支持すると答えています。
Stability AI told the BBC it "prohibits any misuse for illegal or immoral purposes across our platforms, and our policies are clear that this includes CSAM (child sexual abuse material).
"We strongly support law enforcement efforts against those who misuse our products for illegal or nefarious purposes".