昨日LAION-5Bからポルノが見つからなくなったと報告しましたが、検索ワードを変えてnaked、asianを使ったところ年齢不詳ですが少女らしいヌード、成人のヌード、露天風呂の写真が見つかりました。掲載元はポルノサイトです。改善してはいますが、探せばまだポルノが見つかります。
またjapan、girlで検索すると、ヌードではありませんが少女と女児の写真が出てきます。japan、womanでは成人女性が出てきます。名前では見つかりませんので、写真を使われたくない方は面倒ですが全部チェックしてオプトアウト申請してください。
ポルノが削除されたといってもまだ不完全です。
そして問題なのは、今使われているStable Diffusionはデータセットからポルノが削除される前に製作、DLされたことです。
有名人や有害コンテンツを描いた画像を生成できないフィルターがなく、どんな画像も生成できる、児童ポルノも作れると呑気に宣伝されていました。公開当時は性能が低かったため深刻な被害が出ることを予測できず甘く見ていたようです。
その後性能もセーフフィルターも改善しましたが、性的画像が作れるStable Diffusion1.5に人気があります。
それを利用して大量のポルノが作られ、誰でもディープフェイクヌードを簡単に作れるサービスも多数作られ、英国では処罰する法律が成立し、米国でも被害に遭った有名人の抗議により規制法案が議会に提出されています。
スタンフォード大学でCSAMの調査を主導した主任技術者は適切な安全対策が施されていないStable Diffusion 1.5は性的に露骨なコンテンツを生成しており、それに基づくモデルの使用は可能な限り非推奨にし、配布を中止すべきだと勧告しています。
日本でもStable Diffusion1.5に基づくモデルが使用されています。データセットに問題があり人を傷つけるコンテンツが作れることを知った上で、使用を中止してほしいと思います。