Stable Diffusionは無料で高品質の画像を生成できるAIです。
文字で要求を書くだけで速やかに綺麗な画像ができるのは、素材となる写真や絵を世界中（多くは英語圏ですが日本語圏も多数）から集めて合成しているからです。
多くの人がそれと気づかずにスマホで絵や動画を作って楽しんでいます。しかしその素材として絵や写真を使われた人たちの同意は得ておらず、無許可で、海賊版まで使われています。著作権のある画像を米国のフェアユースを名目にして無断で利用しているわけです。米国内でもフェアユースではないという批判を浴びています。アーティストや企業が開発企業を相手に訴訟を起こしています。判決がどうであれ無断で使われていることに怒りや不安を抱く人たちが受け入れることはありません。
私の絵も入っていることがわかっているので当事者として書いています。
使われているデータセットLAION-5Bには、流出した個人の医療情報やポルノ、児童ポルノ、犯罪被害者の写真、盗撮、など違法性のあるデータが含まれています。SNS等に掲載されている個人の写真も大量に含まれています。私は全て自分で確認しました。
その上さらにユーザーが使いたいモデルをDLできるようになっています。それはもはやチェックしようがありません。
CivitaiというサイトでDLできる追加学習モデルには、実在人物の画像、版権ものが含まれています。
マイケル・J・フォックス
アンジェリーナ・ジョリー
新垣結衣
八木海莉
エヴァンゲリオン
鬼滅の刃
これらのモデルを使って人物を生成することができます。
モデルによっては商用利用もできます。
人気芸能人がヌードにされる、女性キャラクターが下着を見せる画像が、フォローもしていないのに流れてくることがあります。
手描きによる二次創作と変わらないと居直る人もいますが、二次創作も違法です。親告罪で黙認されているだけで、逮捕者も出ています。手描きとレベルが違い本物と見分けのつかない生成画像は詐欺や脅迫にも使われます。複数の素材(イラストや写真）が使われていることも、手描きと違う権利侵害問題になります。
複数の権利者がいるため、キャラクターの作者だけが黙認すれば良いということにはなりません。
一般の女性も顔写真を使われてしまう危険があります。
事実ディープフェイクポルノの日本人被害者も出ています。
無数の脱法行為、犯罪行為が野放しにされているのが現状です。
絵を描けなくても参入できる、人間と比較にならない速度で量産できるため爆発的に増えており、人気プラットフォームでも規約を破って無修正画像が投稿販売されています。
誰でも簡単に、違法性のある絵を作ってしまえるツールだということを意識して、ディープフェイクに騙されないように、自分が被害者にならないように自衛する必要があります。
自分の画像がLAION-5Bに入っていないか検索することができますのでご参照ください。
それ以外のデータセットに何が入っているのか公開されていないため何も言えません。子供が被害を受けている場合もあります。
児童ポルノには女児だけでなく男児も使われています。
生成AIは米国が開発し、日本のデータも無断で使われています。
無断利用について批判を抑える方がおかしいと思います。