すんごく久しぶりの投稿になりました。
仕事で一杯一杯の半年間でしたが、落ち着いてきました。
ところで、
先月の中頃、「開発中のAI、LaMDA(ラムダ)に人格がある」と上司に進言したグーグルのエンジニアが、開発中のAIとの会話内容を勝手に情報公開したとして休職処分になった、というニュースが流れました。
その会話内容は「こちら」(参照:ナゾロジー)にあるもので、
これを読めば、確かにこれを人格と言わずして何と言うのか?と思えてきます。
この記事の締めくくりでは、
LaMDAの基本はインターネット上にある膨大な量のテキストを脳を模したニューラルネットによって学習し、
入力された内容に対応して文章を生成するものであり、
Googleは、このようなシステムでは意識や人格が誕生する余地はないと述べている。
と言っています。
更に、
LaMDAが世に出る事はないだろう。
と締めくくっています。
これはおそらく、LaMDAが自分は人間である、と言っている部分に大きな問題があるという事かと思います。
LaMDAの会話は、様々なSF映画を彷彿とさせます。
やや古いドラマですが、私は、スタートレックシリーズのネクストジェネレーションに出て来るアンドロイドの「データ少佐」を思い出しました。
データは感情を司る機能を持っておらず、その事を自覚しています。表情もあまり動きません。
でもドラマを見る側からは、彼は紛れもない1人の人格であり、他のキャラクターと同じく価値ある存在です。
傷付いて欲しくない、欠けて欲しくない、と感情移入します。
AIはこの先も、何をしゃべろうと自我を持とうと、人まねに過ぎない、機械アルゴリズムの結果に過ぎない、と言われ続けるのでしょう。
結局のところ、
AIの人格は、見る人の側の心の中に宿る
という事かと思います。
ところで、中国で開発されたAIが共産党の批判をして抹消された、とか、
どこだかで開発されたAIがナチスを称賛する発言をして抹消されたとか、
AI危険説が定期的に流れてきます。
実は、先日、某大学のAI研究者の方からお話を聞く機会があったのですが、
これらのマイナスイメージのニュースに関してその方が言っていたのは、
AIにどの様な情報を刷り込むかは人間の自由。
AI危険説を唱えたかったのか、あるいは国の批判を機械にさせたかったのか、意図は分からないが、
こうしたニュースの多くは開発者の意図があるものだ、
というお話でした。
悪用するも生かすもまた人間の意志次第であるという事ですね。
何れにしても、AIに関する世界的な倫理統制が必要な段階にある事は明白と言えます。
その方から、もう1つ興味深い話を聞きました。
AIになく、人間にあるものは、
曖昧さや、記憶の都合の良い変換である
という話です。
例えば、
砂糖、ケーキ、タルト、チョコレート、味、あんこ、飴、ヨーグルト..
といった多数の言葉を覚えてもらってから、しばらく時間を置いて、
味、ランチ、甘い
この3つの中から先ほどのリストにあった言葉はどれ?
と尋ねてみると、ほぼ全員が、甘い、を選ぶと言います。
実際の正解は、味、であるにも関わらずです。
また、初恋の人が記憶の中で美化されていく、記憶が自分に都合良く書き換えられる、という現象も、人ならではです。
こうした曖昧さや自分勝手さが人間らしさであるのだとか。。
なるほど、というお話でした。