『ディープフェイク』『情報漏洩』『ＡＩバイアス』

🌸生成ＡＩの悪用

⛳ディープフェイク

　☆ディープフェイクとは

　＊ディープラーニング（深層学習）で
　＊作り出された偽動画や音声で、政治家が偽の発言をした動画

　＊女優やアイドルの偽ポルノ動画などが有名

　☆今後は、偽のメールやＳＮＳで個人情報や

　＊クレジットカード情報などをだまし取る

　＊フィッシング詐欺に生成ＡＩが使われ

　＊偽物と見抜けない真に迫った文面により

　＊被害が甚大化することが懸念されている

⛳ＬＬＭに対する攻撃
　☆ＬＬＭは内部に保持する情報をユーザーに見せないよう

　＊危険性のある知識を提供しないよう指示されている

　☆敵対的プロンプトと呼ばれるＬＬＭを攻撃する

　＊プロンプトの入力で、様々な攻撃を仕掛けることができる
　☆例えばプロンプトインジェクションという攻撃
　＊ＬＬＭが管理する秘密の情報を取得したり

　＊ジェイルブレイクという攻撃で

　＊本来回答しないはずの爆弾の作り方の説明をＬＬＭにさせる

🌸ＡＩの活に伴う４種類のリスク①

⛳①情報漏洩のリスク
　☆外部のＡＩサービスに入力した情報

　＊オプトアウトと呼ばれる事前の設定をしないと

　＊学習データーに利用されてしまう可能性がある

　＊ＡＩに入力した機密情報がＡＩに学習されると

　＊第三者向けのＡＩの出力に機密情報が含まれてしまい

　＊情報漏洩につながる恐れがある
　☆プログラムミスやハッキングなどの理由で

　＊ＡＩとのやり取りが第三者に流出するケースもある

⛳➁差別や偏見に広めるリスク
　☆生成ＡＩの学習に使用される各種データー

　＊人間が作成したものであるがゆえに

　＊社会の差別や偏見が反映されたテキストや画像が含まれる

　☆学習データ中に黒人よりも白人の医師の画像のほうが

　＊多く存在するといったデータの偏りも

　＊このような社会のゆがみを反映している

　＊黒人の医師の画像を生成しないといった社会のゆがみの

　＊再生産を行ってしまう

　☆このような社会の歪みがＡＩの出力を偏らせてしまう

　＊このことをＡＩバイアスという

　　　　　　　　　　　　　　　　　　　　　　　（敬称略）
⛳知識の向上目指し、記事を参考に自分のノートでブログに記載
⛳出典内容の共有、出典の購読等に繋がればと思いブログで紹介
　☆記事内容ご指摘あれば、訂正・削除します
⛳私の知識不足の為、記述に誤り不明点あると思います
⛳投資は、自己責任、自己満足、自己判断で
⛳詳細は、出典原書・記事・番組・画像でご確認ください
⛳出典、『生成ＡＩ』

『ディープフェイク』『情報漏洩』『ＡＩバイアス』

（『生成ＡＩ』記事より画像引用）