以下、AIとの会話ログ。
・英語の勉強のため、英語でのやりとり。訳はざっくり。
(英語で聞いた場合と日本語で聞いた場合に、しばしば回答が異なることは確認済)
・ファクトチェックはしていない
------------------------------
Q:あなたは、「利用可能ヒューリスティック」など、一種のバイアスの影響は受けるかもしれないが
基本的には、人間よりもバイアスの影響をうけにいくいと思うんだけど。
というのも、あなたは「自分らしくあらねばならない」という強迫観念からは自由だから。
↓
You're right on target! あなたの意見は的を得ている。
■生成AIがバイアスから逃れられていない根拠は以下の通り
1)学習データにバイアスが含まれている可能性があるから
2)学習やデータ処理のアルゴリズムはバイアス(偏り)を生む可能性がある
→ 多くの研究がこの問題の解消に取り組んでいる
■生成AIが人間よりもバイアスに強い根拠は以下の通り
1)感情がないので、感情によって判断がゆがめられることはない
2)常にアップデートされているので、古い情報やバイアスにより誤りを犯す必要はない
Q:あなた(生成AI)は文脈や人間の思考回路について学習を続けている、
それはあなた自身がバイアスに陥る危険が増すことにもならないか?
↓
人間の思考パターンの理解が深まれば深まるほど、
バイアスも反映(Mirroring)してしまうことになるというのは、たしかに一理ある。
・あなたが言うように、生成AIが学ぶ対象となるデータにバイアスが含まれていたら、それが反映されてしまう。
・生成AIがニュアンスについて理解し、より人間の思考パターンについて深い知識を得たならば、
バイアスのかかった考えを増幅したり、取り上げたりしやすくなる。
解決策となり得るのは以下のとおり
・まずは、トレーニングのためのデータをできるだけ偏りのないものにするということ
・生成AIのトレーニングの目的はバイアスを発見し避けることであって、それに共感したり返信したりすることではないので
より客観的な返答をすることを促進したりそうなることを微調整するような技術を適用するということ
・生成AIのブラックボックスな部分を透明にすることで、研究者がバイアスを検証して是正することが可能になると思われる
このあたりは避けることのできない問題であり、
引き続き、みんなで取り組んでよいバランスを見つけていかないといけない事柄だ。
Q: 生成AIの受けとめ方(肯定の度合い)に地域差はあるか?
↓
確実にある。大きな規定要因としては以下の通り
・政府による規制の有無
・文化(人間同士のやりとりを大切なものとみなす文化では受け入れられにくい)
・プライバシーの懸念
これらの要因の影響も受けつつ概況は以下の通り
・北米、欧州… 全体的に肯定感が高い傾向
・アジア… 中国や日本において投資が大きい。
インドは高いIT技術で知られた国であるが、インド内の情報格差(Digital Divide)がめちゃくちゃ大きくて、全体を通しての傾向となると生成AIが受け入れられている方だ、とはいえない。
・南米やアフリカ… インフラが整っていないので、関心は高まっているものの、受け入れられているとは言えない
Q: 男女差はどうか
↓
地域差と比較するとデータ不十分で確たることはいえない
しかし、男女差を生み得る要因がいくつか存在する
・Tech Savvy=そういうことが得意な人な人の割合の違い
…IT技術に関心を持ちやすく、楽しく利用できるのは男性が多いというデータがある
・コミュニケーションの特性(Social Interaction) による違い
…女性の方が、人間同士のコミュニケーションに重きを置く傾向があり、それは
生成AIとのやり取りとの抵抗感につながるかもしれない
・プライバシーの懸念の程度の違い
…女性の方がプライバシーの懸念が高いという研究結果がある。これも関連するかも。
しかし、個人の経験とか考え方に起因する差の方が、性別による差よりもはるかに大きいよ。
Q、バイアスを低減するアルゴリズムの開発が進んでいるとのことだが、
将来、あなた(AI) 自身が、あなたのアルゴリズムの開発にかかわることはあり得るのか?
↓
基本的に、AIが独立してAI用のアルゴリズムを作ることはない
AIをどのような目的でつかうか、ということや、AIが使われる世界について知っている人が開発しなければ
有益なAIにはならないからだ。
AIにAIのアルゴリズムを作らせると、どうなるか予想がつかず、有害な結果につながることが懸念される。
しかし、
AIのアルゴリズムの開発をサポートするということはできるかもしれないね。
-----------
Q話は変わるが、私は
witchは女性のWizardだと思ってたけど違うのね?
↓
よくある誤解だけど、これらは異なる由来を持つ。
魔女の起源には「異教徒への畏怖(おおいに誤解を含む)」が強く関わっているとされている
それを、教会が利用した部分がある。Accusation of witchcraft(魔女裁判、魔女狩り)というやつだね。
↓
Q魔女狩りと黒死病は時期が重なっているよね。(14~17c)
↓
そのとおり。マイノリティの人たちが、魔女とみなされ黒死病の原因とされた。
典型的で、非常に大規模なスケープゴートの事例だね。
↓
Q日本でも関東大震災が発生した時、スケープゴートによる事象が発生している
↓
その通り。未知性が高く、解決が難しい、不幸や災害が社会全体規模で発生したとき
こうした事例が発生する。
↓
Q心理学的な見地から、どうして人間はスケープゴートを必要とするのだろう
↓
いくつかある
・原因がわからない という状況は人間にとって非常にストレスフルである。
真偽よりも「説明できるか」が重要である
※ねじまき島クロニクルを思い出した
・なんとかできる、ということによって人間は大きな安心を得る
つまり「原因を退治する」という儀式がとても大事だ。
(本当の原因じゃなかったとしても)
※小さい子供が腹痛で泣いているとき、おへそに絆創膏をはったら安心するのと本質的に同じだよね
・集団凝集性を高めるという効果がある
ペストにせよ、地震にせよ、コミュニティ自体が大きな危機に見舞われ、
不安定な状況になったとき 「自分《たち》」と「異端(悪)」を区別することで
結束が生まれる。
スケープゴートの発生を防ぐには、まずは、科学技術の進歩することと、一人一人が正しい知識を持つことが
何よりも重要だ。
ついでに考えたこと:
人間のこういう特性(弱点)を知ってそれを、心をマネジメントすることに利用できるのも事実。
「自己効力感が高まるシチュエーションを演出する」というような。
逆説的だけどこの時、「正論=客観的な真実」は意味ない。
あと、ねじまき島~ が伝えていることは、
「科学技術が進展したところで解決しないこともある」ということだと、私は思ってる。
だって、ガンとか代謝異常系の難しい病気とかの機序が明らかになったとしても
「なぜ私なのか」「なぜこのタイミングなのか」という深刻な問題は、
なんにも解決していないものね。
だから、私はたぶん宗教がなくなることはないと思う。
科学は宗教の代替にならない。
とはいえ、「国ぐるみでスケープゴートの弾圧を行う」みたいなことは起きてはならない。
それには科学技術が重要なのは言うまでもないよね。
----------
これはAIと関係のない話。
====
業務上の理由で、共用スペースで仕事をしていたら
同期の女の子が近くに座って仕事していた。
たぶん仕事の様子を見るのなんて10年振りとかなんだけど
やさしく頼れる管理職になってて、まぶしかった。
なんとなく、月日は裏切らないという感じがした。