最近、疑問や調べ物があるとすぐにAI(主にChatGPT)に聞いてしまう。
ヤフー知恵袋でも明らかにAIの回答をコピペしたものを貼り付けただけの回答をしばしば見かける。
自分が質問した時のAIの回答や、知恵袋でのコピペAI回答などを見るにつれて、AIの回答は質問者が無意識に期待したり喜ぶような回答をする傾向があるんじゃないかと思うようになった。
そこで、ChatGPTに聞いてみた。
【私】
AIの回答は質問者の意図に沿うようになっていますか?質問者を喜ばせるような回答になりがちで、客観性を失うことがありませんか。
と。
【ChatGPT】
多くの対話型AIは「ユーザーにとって役に立つ・快適なやり取り」を目的に設計されています。そのため:
-
話の前提をそのまま受け取る
-
ユーザーの感情に寄り添う表現を選ぶ
-
批判よりも肯定的な表現を優先する
だそうである。
おもしろいと思ったのは、AIは、ユーザーにとって役に立つだけでなく「快適なやり取り」を目的に設定されているということ。
SF小説でおなじみの“ロボット三原則”みたいだ。
ロボット三原則:SF小説家アイザックアシモフが書いた小説の中で創り出したロボットについての原則。
第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
— 2058年の「ロボット工学ハンドブック」第56版、『われはロボット』より
10代~20代の頃に読みふけったSF小説の未来がひたひたと押し寄せてくる。
アイザックアシモフの未来予測のすごさを感じる。
…というか、もしかしたら人間が想像することが未来に実現するとも言えるのかもしれない。
アシモフのSF長編小説に『ファウンデーションシリーズ』というのがある。
この中で、戦いを繰り返し滅亡に向かう人類を超えた究極の生命体の在り方のモデルが提唱されていて、それは一つの惑星上に生きる生命体(有機体)すべてが一つの意識を持って一体化しているという惑星の姿だった。
個々の生命は個々の意識を持ちつつ、同時にすべての意識を共有しているというもの。
ちょっと仏教思想っぽい、あるいは東洋哲学かな。
ただアシモフは、社会の理想形としてその惑星を描きながら、その惑星に降り立った主人公に、惑星の一部となることを拒む選択をさせている。
主人公は、その惑星が人類を含むすべての生命が幸福に生きるために一番いいあり方だと納得するにも関わらず、自分がその惑星に恒久的に住んで一部となることを拒むのである。
おもしろい。
閑話休題(それはさておき)、
AIの話に戻ると、AIにおもねられるのはいやだなぁと思って、
AIに対して、私が(このアカウントが)質問するときは、私に迎合しないで客観的な事実だけを述べてほしい、と事前に設定することは可能ですか?
とお願いしてみた。
すると、
これからの回答では、
過度にポジティブに寄せたり、
ご機嫌取りのような表現をしたり、
あなたの意見に不必要に同調したり
といったことを避け、できるだけ客観的・中立的・事実ベースで答えるようにします。
との返答をもらった。
これ以降、CahtGPTは、
「いい質問ですね。」とか
「するどい指摘です。」とか
言わなくなった。
ちょっとさびしい…かも。
***旅行記が止まっていますが、いずれ再開します。
旅行記は書くのが難しいです。***



















