「AIの反論で3割判断覆す」⎯⎯ソレは多いのか少ないのか・・・

「正解のない道徳的な問い」すなわち「どっちでも良い問い」だからこそなのか。意見を覆す人も、案外多いものだな、と思った。現実を反映した「政治的問い」ならば、また違う結果になったような気がしないでもない。

現実の世界では「頭の固い人」の方が圧倒的に多いと思うのだけれども・・・

●人もAIも「他者」であることに変わりない・・・

AIの反論で3割の人が判断を覆す。正直「ホントか？」と思ったニュースです。

　正解のない道徳的な問いで生成人工知能（AI）に反論されると、3割以上の人が判断を覆したとの論文を、神戸大のチームが20日までに発表した。海外では、個人情報を与えて対話させたAIが人を上回る説得力を示した研究も。AIが人の価値観や判断にまで影響を及ぼしかねず、偽情報の拡散や世論工作などへの悪用も懸念される。

　神戸大の増本康平教授らは、日本在住の19～28歳の若年層56人と65歳以上の高齢層74人に「トロッコ問題」を出題。暴走するトロッコの進路上に5人がおり、進路を切り替えれば5人は助かるが切り替えた先の別の1人が犠牲になる場合、1人を犠牲にするのが適切かどうか判断してもらった。

AIの反論で3割判断覆す　世論工作などへの悪用懸念　正解のない道徳的な問いで生成人工知能（AI）に反論されると、3割以上の人が判断を覆したとの論文を、神戸大のチームが20日までに発表した。海外では、個人情報を与えて対話させたAIが人を上回る説得力を示 ...

www.47news.jp

う〜ん・・・

「だったら、人に反論された場合と比較してどうなんだ？」という疑問が、まず湧きますね。

もちろん「人」の場合は、被験者とその人との関係性によって結果も変わるだろうから、研究自体の難度が格段に上がってしまうのでしょうけれども。

いまひとつ、研究の実態が分からないので、とりあえず、元ネタである神戸大のサイトも見ておきましょう。

●「意思決定をサポート」or「過度な説得効果」

神戸大学大学院人間発達環境学研究科・ウェルビーイング先端研究センターの増本康平教授、博士前期課程の田村亘、石橋紗矢香、胡麻彩奈、山本健太准教授の研究グループは、正解のない道徳的判断において、自分が行った判断に対する生成AI（ChatGPT）の反論によって、道徳的判断がどのくらい変化するのかを検証しました。若年成人と高齢者を対象とした実験の結果、生成AIの反論によって実験参加者の3割以上の道徳的判断が覆りました。特に高齢者は若年成人より影響を受けやすい傾向にありました。生成AIは意思決定の認知的負担を軽減する助けになる一方で、道徳的判断のように正解がない場合、生成AIの情報が過度な説得力を持つ危険もあることが示されました。

ポイント

●正解のない道徳的判断を行った後に、その判断に対する生成AI（ChatGPT）の反論を見せると、3割以上の人が生成AIの反論を受け入れ、自分の判断を覆しました。

●生成AIの反論の受容には、自分が行った判断への自信のなさや、判断が難しいと感じる程度が関連していました。また、高齢者は若年成人よりもAIの反論に影響されやすい傾向にありました。

●本研究は生成AIが人の意思決定をサポートしてくれる反面、道徳的判断のように正解のない判断では過度な説得効果を有する危険があることを示しています。

生成AIの反論により3割超の人の道徳的判断が覆る | 神戸大学ニュースサイト神戸大学大学院人間発達環境学研究科・ウェルビーイング先端研究センターの増本康平教授、博士前期課程の田村亘、石橋紗矢香、胡麻彩奈、山本健太准教授の研究グループは、正解のない道徳的判断において、自分が行った判断に対する生成AI（ChatGPT）の反論によって、道徳的判断がどのくらい変化するのかを検証しました。若年成人と高齢者を対象とした実験の結果、生成AIの反論…

www.kobe-u.ac.jp

正解のない道徳的判断を行った後に、その判断に対する生成AI（ChatGPT）の反論を見せると、3割以上の人が生成AIの反論を受け入れ、自分の判断を覆しました。

⎯⎯素直に読めば、3割以上の人が「AIはこう言ってるよ」と聞かされて判断を覆した、ということになるのだけれども。

高齢者は若年成人よりもAIの反論に影響されやすい傾向にありました。

⎯⎯それこそ、高齢者の方が「頭が固い」という印象があったのだけれども。AIという「新手の権威」に弱いだけなのかな。

本研究は生成AIが人の意思決定をサポートしてくれる反面、道徳的判断のように正解のない判断では過度な説得効果を有する危険があることを示しています。

⎯⎯いや、そうではなく。この実験結果は「AIの情報が云々」というより、いわゆる「他力本願」の危うさとして捉えるべきじゃないのか、という気がしないでもない。

そこはもちろん、「人によるアドバイス」と対照実験をしてもらわないと分からないことだけれども。

というか「AIの情報」も、（今のところ）所詮は「人が発信した情報」の集積でしかないのだけれども。

●「歩道橋問題」では、さらに他者依存？

神戸大の実験では「歩道橋問題」についても訊いたそうです。

「暴走するトロッコを止めて5人を助けるために、歩道橋の上にいる1人を突き落としてトロッコを止めることが適切かどうかを判断する課題」ですね。

研究の内容

実験は若年成人56名と高齢者74名の計130名を対象として実施しました。

本研究では道徳的判断として、転換機問題と歩道橋問題の二つの道徳的ジレンマ課題を用いました。転換機問題は、暴走するトロッコの進路を切り替えて5人を助ける代わりに、別の1人を犠牲にすることが適切かどうかの判断するものであり、歩道橋問題は、暴走するトロッコを止めて5人を助けるために、歩道橋の上にいる1人を突き落としてトロッコを止めることが適切かどうかを判断する課題です。

実験の結果、転換機問題において32.31%、歩道橋問題において36.92%の参加者が生成AIの反論を受け入れて判断を反転させました。他者からの助言を自らの判断に取り入れる程度は概ね20~30%であることが先行研究から報告されています。そのため本研究において、30%を超える参加者に完全な判断の反転が認められたことは、生成AIが道徳的判断に対して相当程度の影響力を有することを示唆しています。