画像編集で性的画像被害
『【ワシントン＝中根圭一】Ｘ（旧ツイッター）に導入された生成ＡＩ（人工知能）「Ｇｒｏｋ（グロック）」による画像編集機能を悪用し、他人の画像を性的な画像に加工した投稿が相次いだ問題で、この機能が使われた１１日間に世界で推計約３００万枚の性的画像が作られたとの調査結果を米英の非営利団体「デジタルヘイト対策センター」が発表した。
約３００万枚のうち約２万３３００枚は、１８歳未満の児童とみられる人物が写る画像だった。同団体は、グロックに画像編集の機能が追加された後の昨年１２月２９日から今年１月８日にかけて調査した。１分あたり約１９０枚の性的画像が世界で作られていた計算になるという。
この機能は１月９日に有料会員だけに限定され、１４日にはさらに技術的な制限が加えられた。しかし、その後も投稿が削除されず、Ｘで公開されたままになっている性的画像も確認された。
他人の画像を水着姿や裸に近い姿に加工されたケースが相次ぎ、世界的に絶大な人気を誇る米シンガー・ソングライターのテイラー・スウィフトさんや、カマラ・ハリス前米副大統領ら著名人も被害に遭っていた。
グロックの画像編集機能を巡っては、性的な画像を本人の同意なく簡単に作成できるため、各国政府が問題視してきた。
インドネシアはグロックへのアクセスを一時的に遮断したほか、英国はオンライン安全法に基づく調査を開始したと発表した。
日本政府もＸに対し、不適切な画像が出力されないよう改善を求めてきた。』
AIの発達で誰でも簡単にイラストなどの画像や動画が作成できるようになった。
これまでは画像編集にそれなりにスキルが必要であったが、2025年からはAI進化スピードが速く、誰でもできるようになった点が犯罪率アップに繋がっている。
GrokはXのAIツール。
MicrosoftはCopilot、GoogleはGeminiなどと同様にイーロンマスクのXはGrokを出している。
最近はAIツールも囲い込みが目立つ。
特にGoogleのGeminiが凄い。NotebooklmやGoogleカレンダーなど他のGoolge製品との連携が1つの大きな武器となっている。
そう言う意味でGrokはXとの連動がスムーズで、Xでの公開が続いているというニュースだ。
Xはツイッター買収時に物議を醸して、利用者がTreadsなどに逃げたとも言われたが、依然として大きな影響力を持っている。
ここで問題なのは、事実ではない画像でも一般の人には事実かAIか見分けがつかないということ。
AIの精度が上がれば上がるほど、ぱっと見わからない。 対象とされた人は堪らないね。
リベンジポルノのようなもの。
リベンジポルノとは、元交際相手や配偶者などが、相手を困らせたり復讐したりする目的で、本人の同意なく性的な写真や動画をインターネット上に公開したり、第三者に送りつけたりする行為。
非常に深刻なプライバシー侵害であり、日本では明確に法律で禁止されている犯罪である。
それが大きなダメージになるのは、デジタルタトゥー問題。
デジタルタトゥーっていうのは、一度インターネット上に流出した情報は完全に消去することが非常に難しく、被害が長期化・深刻化しやすい事を指す。
この記事でも「投稿が削除されず、Ｘで公開されたままになっている性的画像も確認」とあるこの現象である。 この問題は将来の社会問題の根源だと思う。
人間の脳は「理屈」より先に「視覚」へ反応するため、偽物と知っていても本能レベルでダマされてしまう。
最大の問題は、脳が「見た映像」を「事実」に近い記憶として処理してしまい、現実の画像とAIの画像との区別できなくなることだ。
周囲が後に嘘でAIの画像だとわかったとしても、脳はその画像を覚えている。 本能的な部分の話になるのかな？
その為、被害者の方は、実際には何もされていなくても、本当に被害に遭ったのと同じ深いトラウマを負ってしまうとも言われている。
何度も見せられたり、人から言われていると、実際にあったことではないかと本人も錯覚してしまうことってあるよね。
これは水面下で人の人生を壊す細菌兵器のように感じる。
しかもデジタルタトゥーとして、事実ではないことがいつまでもXなどの公の場でさらされ続けるという2次被害もかなり大きな問題だと思う。
やった加害者は軽い気持ちでやったかもしれないけど、実際は人の人生を壊す威力を秘めているということだ。
つまりAI動画は、脳の認識機能をハッキングし、直接心に傷を負わせる「凶器」になり得るということ。
各国政府が問題視してきたのはその為だ。
ただ、日本政府のように「Ｘに対し、不適切な画像が出力されないよう改善を求めてきた」と言うだけではほとんど意味がない。
Xは１月９日に有料会員だけに限定され、１４日にはさらに技術的な制限が加えられても根本的解決になっていない事でも明らかだろう。
日本政府は他力本願ではなく、先ず自分達で出来る事から改善をしてほしい。
例えば、影響力の重大さを国民に周知徹底し、刑罰などの見直しを行い、そのような事を行った人物を許さないという社会的雰囲気を作るなど、AIフェイクが増えていく将来への対策を考えてもらいたいな。
画像編集で性的画像被害
『【ワシントン＝中根圭一】Ｘ（旧ツイッター）に導入された生成ＡＩ（人工知能）「Ｇｒｏｋ（グロック）」による画像編集機能を悪用し、他人の画像を性的な画像に加工した投稿が相次いだ問題で、この機能が使われた１１日間に世界で推計約３００万枚の性的画像が作られたとの調査結果を米英の非営利団体「デジタルヘイト対策センター」が発表した。
約３００万枚のうち約２万３３００枚は、１８歳未満の児童とみられる人物が写る画像だった。同団体は、グロックに画像編集の機能が追加された後の昨年１２月２９日から今年１月８日にかけて調査した。１分あたり約１９０枚の性的画像が世界で作られていた計算になるという。
この機能は１月９日に有料会員だけに限定され、１４日にはさらに技術的な制限が加えられた。しかし、その後も投稿が削除されず、Ｘで公開されたままになっている性的画像も確認された。
他人の画像を水着姿や裸に近い姿に加工されたケースが相次ぎ、世界的に絶大な人気を誇る米シンガー・ソングライターのテイラー・スウィフトさんや、カマラ・ハリス前米副大統領ら著名人も被害に遭っていた。
グロックの画像編集機能を巡っては、性的な画像を本人の同意なく簡単に作成できるため、各国政府が問題視してきた。
インドネシアはグロックへのアクセスを一時的に遮断したほか、英国はオンライン安全法に基づく調査を開始したと発表した。
日本政府もＸに対し、不適切な画像が出力されないよう改善を求めてきた。』
AIの発達で誰でも簡単にイラストなどの画像や動画が作成できるようになった。
これまでは画像編集にそれなりにスキルが必要であったが、2025年からはAI進化スピードが速く、誰でもできるようになった点が犯罪率アップに繋がっている。
GrokはXのAIツール。
MicrosoftはCopilot、GoogleはGeminiなどと同様にイーロンマスクのXはGrokを出している。
最近はAIツールも囲い込みが目立つ。
特にGoogleのGeminiが凄い。NotebooklmやGoogleカレンダーなど他のGoolge製品との連携が1つの大きな武器となっている。
そう言う意味でGrokはXとの連動がスムーズで、Xでの公開が続いているというニュースだ。
Xはツイッター買収時に物議を醸して、利用者がTreadsなどに逃げたとも言われたが、依然として大きな影響力を持っている。
ここで問題なのは、事実ではない画像でも一般の人には事実かAIか見分けがつかないということ。
AIの精度が上がれば上がるほど、ぱっと見わからない。 対象とされた人は堪らないね。
リベンジポルノのようなもの。
リベンジポルノとは、元交際相手や配偶者などが、相手を困らせたり復讐したりする目的で、本人の同意なく性的な写真や動画をインターネット上に公開したり、第三者に送りつけたりする行為。
非常に深刻なプライバシー侵害であり、日本では明確に法律で禁止されている犯罪である。
それが大きなダメージになるのは、デジタルタトゥー問題。
デジタルタトゥーっていうのは、一度インターネット上に流出した情報は完全に消去することが非常に難しく、被害が長期化・深刻化しやすい事を指す。
この記事でも「投稿が削除されず、Ｘで公開されたままになっている性的画像も確認」とあるこの現象である。 この問題は将来の社会問題の根源だと思う。
人間の脳は「理屈」より先に「視覚」へ反応するため、偽物と知っていても本能レベルでダマされてしまう。
最大の問題は、脳が「見た映像」を「事実」に近い記憶として処理してしまい、現実の画像とAIの画像との区別できなくなることだ。
周囲が後に嘘でAIの画像だとわかったとしても、脳はその画像を覚えている。 本能的な部分の話になるのかな？
その為、被害者の方は、実際には何もされていなくても、本当に被害に遭ったのと同じ深いトラウマを負ってしまうとも言われている。
何度も見せられたり、人から言われていると、実際にあったことではないかと本人も錯覚してしまうことってあるよね。
これは水面下で人の人生を壊す細菌兵器のように感じる。
しかもデジタルタトゥーとして、事実ではないことがいつまでもXなどの公の場でさらされ続けるという2次被害もかなり大きな問題だと思う。
やった加害者は軽い気持ちでやったかもしれないけど、実際は人の人生を壊す威力を秘めているということだ。
つまりAI動画は、脳の認識機能をハッキングし、直接心に傷を負わせる「凶器」になり得るということ。
各国政府が問題視してきたのはその為だ。
ただ、日本政府のように「Ｘに対し、不適切な画像が出力されないよう改善を求めてきた」と言うだけではほとんど意味がない。
Xは１月９日に有料会員だけに限定され、１４日にはさらに技術的な制限が加えられても根本的解決になっていない事でも明らかだろう。
日本政府は他力本願ではなく、先ず自分達で出来る事から改善をしてほしい。
例えば、影響力の重大さを国民に周知徹底し、刑罰などの見直しを行い、そのような事を行った人物を許さないという社会的雰囲気を作るなど、AIフェイクが増えていく将来への対策を考えてもらいたいな。
画像編集で性的画像被害
『【ワシントン＝中根圭一】Ｘ（旧ツイッター）に導入された生成ＡＩ（人工知能）「Ｇｒｏｋ（グロック）」による画像編集機能を悪用し、他人の画像を性的な画像に加工した投稿が相次いだ問題で、この機能が使われた１１日間に世界で推計約３００万枚の性的画像が作られたとの調査結果を米英の非営利団体「デジタルヘイト対策センター」が発表した。
約３００万枚のうち約２万３３００枚は、１８歳未満の児童とみられる人物が写る画像だった。同団体は、グロックに画像編集の機能が追加された後の昨年１２月２９日から今年１月８日にかけて調査した。１分あたり約１９０枚の性的画像が世界で作られていた計算になるという。
この機能は１月９日に有料会員だけに限定され、１４日にはさらに技術的な制限が加えられた。しかし、その後も投稿が削除されず、Ｘで公開されたままになっている性的画像も確認された。
他人の画像を水着姿や裸に近い姿に加工されたケースが相次ぎ、世界的に絶大な人気を誇る米シンガー・ソングライターのテイラー・スウィフトさんや、カマラ・ハリス前米副大統領ら著名人も被害に遭っていた。
グロックの画像編集機能を巡っては、性的な画像を本人の同意なく簡単に作成できるため、各国政府が問題視してきた。
インドネシアはグロックへのアクセスを一時的に遮断したほか、英国はオンライン安全法に基づく調査を開始したと発表した。
日本政府もＸに対し、不適切な画像が出力されないよう改善を求めてきた。』
AIの発達で誰でも簡単にイラストなどの画像や動画が作成できるようになった。
これまでは画像編集にそれなりにスキルが必要であったが、2025年からはAI進化スピードが速く、誰でもできるようになった点が犯罪率アップに繋がっている。
GrokはXのAIツール。
MicrosoftはCopilot、GoogleはGeminiなどと同様にイーロンマスクのXはGrokを出している。
最近はAIツールも囲い込みが目立つ。
特にGoogleのGeminiが凄い。NotebooklmやGoogleカレンダーなど他のGoolge製品との連携が1つの大きな武器となっている。
そう言う意味でGrokはXとの連動がスムーズで、Xでの公開が続いているというニュースだ。
Xはツイッター買収時に物議を醸して、利用者がTreadsなどに逃げたとも言われたが、依然として大きな影響力を持っている。
ここで問題なのは、事実ではない画像でも一般の人には事実かAIか見分けがつかないということ。
AIの精度が上がれば上がるほど、ぱっと見わからない。 対象とされた人は堪らないね。
リベンジポルノのようなもの。
リベンジポルノとは、元交際相手や配偶者などが、相手を困らせたり復讐したりする目的で、本人の同意なく性的な写真や動画をインターネット上に公開したり、第三者に送りつけたりする行為。
非常に深刻なプライバシー侵害であり、日本では明確に法律で禁止されている犯罪である。
それが大きなダメージになるのは、デジタルタトゥー問題。
デジタルタトゥーっていうのは、一度インターネット上に流出した情報は完全に消去することが非常に難しく、被害が長期化・深刻化しやすい事を指す。
この記事でも「投稿が削除されず、Ｘで公開されたままになっている性的画像も確認」とあるこの現象である。 この問題は将来の社会問題の根源だと思う。
人間の脳は「理屈」より先に「視覚」へ反応するため、偽物と知っていても本能レベルでダマされてしまう。
最大の問題は、脳が「見た映像」を「事実」に近い記憶として処理してしまい、現実の画像とAIの画像との区別できなくなることだ。
周囲が後に嘘でAIの画像だとわかったとしても、脳はその画像を覚えている。 本能的な部分の話になるのかな？
その為、被害者の方は、実際には何もされていなくても、本当に被害に遭ったのと同じ深いトラウマを負ってしまうとも言われている。
何度も見せられたり、人から言われていると、実際にあったことではないかと本人も錯覚してしまうことってあるよね。
これは水面下で人の人生を壊す細菌兵器のように感じる。
しかもデジタルタトゥーとして、事実ではないことがいつまでもXなどの公の場でさらされ続けるという2次被害もかなり大きな問題だと思う。
やった加害者は軽い気持ちでやったかもしれないけど、実際は人の人生を壊す威力を秘めているということだ。
つまりAI動画は、脳の認識機能をハッキングし、直接心に傷を負わせる「凶器」になり得るということ。
各国政府が問題視してきたのはその為だ。
ただ、日本政府のように「Ｘに対し、不適切な画像が出力されないよう改善を求めてきた」と言うだけではほとんど意味がない。
Xは１月９日に有料会員だけに限定され、１４日にはさらに技術的な制限が加えられても根本的解決になっていない事でも明らかだろう。
日本政府は他力本願ではなく、先ず自分達で出来る事から改善をしてほしい。
例えば、影響力の重大さを国民に周知徹底し、刑罰などの見直しを行い、そのような事を行った人物を許さないという社会的雰囲気を作るなど、AIフェイクが増えていく将来への対策を考えてもらいたいな。