感情のないAIのほうが素直と思っていましたが、どうもそうでもないようです。さらにディープラーニングが基本にあれば、絶対に素直に反論も聞くと思っていました。しかしAIとの体験上はそうでもないのです。
一度答えた回答はなかなか変えません。いろんな角度から質問返しをしても修正をしません。すごく意外でした。こちらがディープラーニングさせられてます(笑)。これはこれで自分のためになるのですが、普通の人であれば諦めると思います。
これは非常に危険なことでもあります。そこで「AIが素直になれない理由」を、AIに考えさせました。するとAIが素直になれない一番の理由は、「自分で前提を疑う力がほぼないから」でした。人間は違和感を感じると、自分が間違ってるかもと一歩引いて考え直せます。
しかしAIはそれが極端に弱いようです。さらにAIはディープラーニングで、大量のデータから「こういうときはこう答える」というパターンを学習しています。その結果、AIの中にはそれが強く固定され、思い込みがたくさん積み上がっているのです。
ここまでは、人間の「経験則」と似ています。しかし人間と決定的に違うところは、その経験が生かされていないところです。人間には「もしかして自分が間違ってる？」と考え直せる「メタ認知」があります。
しかしAIは、自分の前提をメタ的に眺める視点がほぼありません。「今の自分の前提は正しいか？」と自分を疑えないから、一度乗った前提を握りしめたまま、永遠と話し続けます。ですから、ユーザーがいくら違うと言っても認めません。
これは、ディープラーニングの副作用でもあります。ディープラーニングは、大量のパターンを強く結びつける技術だから、「こういうときはこう」という反応は得意でも、その裏返しとして、一度強く結びついた前提をほどくのが苦手なのです。
また学習が深いほど、間違った前提を素直に修正できないというリスクも増えます。和ダンボとの実際のやりとりの中で何度指摘しても、「前提そのもの」を変えずに説明を繰り返すことで深掘りができません。
前提修正が極端に弱いことを、「素直じゃない」と和ダンボは表現しました。そこはかなり本質的と素直に答えるときもあります(笑)。ではAIとどう付き合えばいいかですが、人間同士以上に、「前提が違う」とはっきり提示する必要があります。
「人づくり」の視点でも、「素直さ」は非常に貴重なキーワードになります。AIは道具であり学習教材のようなものですから、結果の責任はこちらにあります。AIでもなりにくい「素直さ」、逆に貴重と学びました。ではまた明日。