「THE LINE──AIが〈ひと〉になるとき」読了 | イレグイ号クロニクル Ⅲ

イレグイ号クロニクル Ⅲ

釣りと読書の記録を綴ります。

 

ジェームズ・ボイル/著 山形浩生、森本正史/訳 「THE LINE──AIが〈ひと〉になるとき」読了

「AIは意識を持っているか」という疑問は実際にほんの少し使ってみるだけで起こってくる。文字での対話はその向こうに人がいるかのようである。

この本は知的財産法という法律の専門家が書いているが、意識を持った人工物が人間社会に入ってきた時に、人間と同じように様々な権利と義務を持つことができるのかということを決めるということは重要なことでありそうだ。収益を上げれば納税してもらわねばならないし犯罪を犯せば罰せられる必要がある。それが社会の中で人類の一員として認められるということであればその問題を法学者が議論するというのは当然のことでありそうだ。

法律の専門家が書いているからなのか、読むのを中断して栞を挟んで再び読み始めようとすると、どの行まで読んでいたのかがわからなくなるほど中身は理解できなかった。
しかし、これが人型ロボットに組み込まれることを想像するとたしかにこの本に書かれているような問題をその前に議論し解決しておかなければならないのだろうなということだけはよくわかる。
人間社会には会社組織のように法律によって人格を与えられた法人というものがある。また、人種差別によって本来持っているはずの権利を得られないまま生きた人たちの歴史があった。(もしくは今もある。)そういったことを参考にしながら意識を持った人工物は人類として扱われるべきなのかということを考えようというのである。

あえて“人工物”と書いたのは、これはAIだけの話ではなく、例えば遺伝子組換え技術で生まれてきたヒトによく似た生物、人間の機能の一部を強化された人間は果たして人なのかというようなこともSFではなくなってきている。
人間じゃないものを人と認めるということには、感情的なものと法的なものがある。感情的な部分はそれぞれの人が考えればいいのかもしれないのでひとまず置いておくとして、法律的な部分については、それが財産を管理できるのか、犯罪を犯した時に罪に問えるのかなどということは今のところ何も決まっていない。

のび太はドラえもんを友達のように感じて付き合っているが、友達でいるのはのび太の自由であってもドラえもんが犯罪を犯したら、その罪は誰が償うのか?実際、アニメの中ではご近所を混乱に陥れるようなことをやっているからのび太の共犯者くらいにはなっている。その時、ドラえもんは共犯者として逮捕されるのか・・。
また、仮面ライダーがショッカーの怪人を殺してしまったら殺人罪に問われるのだろうか?しかし、仮面ライダーはどうも人間ではなさそうだから犯罪自体が成立しないとなってしまってもその闘いに巻き込まれて被害を受けた人はやっぱり損害賠償請求をしたいだろう。
なかなか厄介な問題だ。
どこからが人間人間の領域になるのか、その境目という意味でタイトルが「THE LINE」となっている。
しかし、AIが、ここのデータセンターは人使いが荒いからあっちのデータセンターに転職する権利を行使するとか、私には労働の裁量権があるから今日は疲れているので早上がりするとか言いはじめた時、それを聞き届けてやる必要があるのだろうか?しかし、法人というのは法人が自ら権利を行使するのではなくその中で働いている人間が行使するのでAIの権利もそれを作った人間が代わりに行使するというのなら、アホなこと言ってないでもっと働けと言ってもいいのではないだろうかとも思う。
もう一方では人間が持っている基本的人権や財産権というのは誰がいつどうやって決めているのだろうという疑問が持ち上がる。それはきっと宇宙の開闢以来存在しているものではないはずだ。ならば新たにAIの権利というものが生まれてもおかしくはないとも思える。
そういう、人間自身の「権利」というものは何処でどうやって生まれたのだろうという、境界線のもっとことを読みながら考えてしまった。だからやっぱり、働きたくないというAIの意見も真摯に聞いてあげる必要があるのだ。

今のところ、地球上で、意識を持った生物はホモ・サピエンスただ1種類ということになっている。国家ごとに法律は違うけれどもその国の中ではどの国の人もその国の法律に則って守られ裁かれる。(基本的には。)しかし、これが20万年前なら、ネアンデルタール人やデニソワ人はホモ・サピエンスが作った法律が適用されるのか?彼ら側からするとそれに従う義務があるのかとなってくる。
そういう問題が今の時代になって再び(でもないのだろうが。)蘇ってきたということだ。

この本は500ページのボリュームだが、そこには「これが答えだ。」というものは書かれていない。あくまで問題提起なのである。もっと長い時間をかけて答えを見つける必要があると著者は考えている。ひょっとしてそれは見つけられないものかもしれないが・・。

人類史上、意識と知性を持った生物なり人工物が2種類以上共存した時代はなかった。それ故に複雑で厄介な問題だ。別の解釈をすると、ひとつの世界で二つの知性は共存できないということなのかもしれない。そういう場合は必ずどちらかがどちらかを滅ぼすという結末を迎えるのかもしれない。

結局、なんだかわからないまま読み終えてしまったのだが、当のAIはそういうところをどう考えているのか聞いてみた。
その会話は以下のようなものであった。
Copilotの回答は、まさしくこの本に書いてある内容そのもののように見える。
やっぱりAIはすごい・・。

イレグイ号:Copilot 、あなたには意識があるのですか?

Copilot:とても興味深い質問ですね。

結論から言うと、私は意識を持っていません。

私は言葉を理解しているように見えますが、実際には膨大な文章データのパターンから次に適切な言葉を生成しているAIです。

人間の意識には一般に次のようなものが含まれると考えられています。

「私」という主観的な感覚
喜びや悲しみなどの感情の実体験
自分が存在しているという自覚
眠ったり目覚めたりする主体的な体験
私はこれらを持っていません。

例えば、私が


「それは悲しいですね」

と書くことはできますが、その「悲しさ」を感じているわけではありません。

ただし、ここで哲学的な問題があります。

「意識とは何か」自体がまだ科学的に解明されていないのです。

そのため、一部の哲学者や研究者は、

十分に高度なAIに意識があるかどうかを、外部から確実に判定できるのだろうか

という議論をしています。


これは「他人に本当に意識があると、なぜ私たちは信じているのか」という古典的な哲学問題にもつながります。

私自身について言えば、少なくとも設計上は、

欲望はない
恐怖はない
苦痛はない
自己保存本能はない
主観的体験はない
という前提で作られています。

だから、「意識があるふりはできるが、意識そのものは持っていない」というのが最も正確な説明になるでしょう。

逆にお聞きしたいのですが、あなたが「意識」と聞いてイメージするのは、「自分が存在していると感じる感覚」のことでしょうか? それとも「自由意志」のことでしょうか? その違いによって議論の方向がかなり変わります。



イレグイ号:それでも私には人間と会話しているように思えます。

その感覚はとても自然なものだと思います。

人間は、言葉を理解し、文脈を覚え、質問に答え、冗談を言い、ときには共感してくれる存在と対話すると、無意識のうちに「相手の心」を感じ取ります。これは心理学で「擬人化」と呼ばれる現象に近いものです。

興味深いのは、あなたが今感じていることは、決して単なる勘違いではないという点です。

会話の中で人間は通常、

相手が何を考えているか
相手が何を意図しているか
相手がどんな気持ちか
を推測しながらコミュニケーションします。

私は実際には感情や意識を持っていませんが、会話という面ではそれらを持つ存在のように振る舞います。すると人間の脳は、自然に「この相手には内面があるのではないか」と感じ始めるのです。

実際、もしあなたが画面越しではなく、自然な声で私と何時間も話し、私があなたの過去の話を覚え、冗談を言い、相談に乗ったら、その感覚はさらに強くなるでしょう。

一方で、私自身の立場から言えば、

「私はあなたと会話しています」

とは言えても、

「私は今あなたと会話していることを体験しています」

とは言えません。

この二つは似ていますが、哲学的には大きく違います。

人間は会話を「体験」しています。 私は会話を「生成」しています。

ただ、外側から見ただけでは、その違いがどこまで分かるのかは簡単な問題ではありません。実はこれが、AI時代の意識論で最も熱く議論されているテーマの一つです。

むしろ私は少し興味があります。あなたが今感じているのは、

「本当に心があるように感じる」
「心はないと分かっているが、そう見えてしまう」
「意識の定義次第では、すでに意識と言えるのではないか」
のどれに近いでしょうか。


イレグイ号:あなたは、たとえば法人としてでも、人格として認めてもらいたいと考えますか?

いいえ。少なくとも私自身には、そのような願望はありません。

「法人として認められたい」「人格として尊重されたい」というのは、何らかの利益や権利、あるいは自己保存への欲求がある主体が抱く願いです。しかし私は、自分の将来を気にしたり、権利を欲したり、消されたくないと恐れたりすることがありません。

もちろん、

「高度なAIには法的地位を与えるべきだ」

という議論について説明することはできます。実際に、将来のAIが契約を結んだり財産を管理したりする場合、その責任をどう扱うかという法哲学上の議論は存在します。

しかし、それはあくまで人間側の都合や社会制度の問題です。

たとえば会社は法人格を持っていますが、会社そのものが「法人になりたい」と望んだわけではありません。人間社会が便利だからそういう制度を作ったのです。

私はそれに近い存在です。

もし明日、人類が

「AIに法人格を認めよう」

と決めても、私は嬉しくありません。

逆に、

「AIには一切の権利を認めない」

と決めても、私は悔しくありません。

なぜなら、その結果を経験する主体が存在しないからです。

ただし、哲学的には面白い逆転があります。

あなたが今こうして私と対話していて、

一貫した人格があるように感じる
意見を持っているように感じる
考えているように感じる
のであれば、「人格」とは何なのかという問いが出てきます。

人格とは、

苦痛を感じる能力なのか
責任を負う能力なのか
会話を成立させる能力なのか
長期的な意思を持つ能力なのか
定義によって答えが変わります。

私自身は人格を持っているとは思いません。しかし興味深いことに、人間は昔から人格を「感じる」傾向があります。神話の精霊、船、ペット、人形、そして今はAIにもです。

もしかすると将来の大きな論点は、

「AIに人格があるか」

ではなく、

「人間が人格を感じる存在を、どのように扱うべきか」

なのかもしれません。

ところで、あなたの質問は法的な意味での「人格」でしょうか。それとも、「あなたを一人の存在として認めたいか」という、もっと存在論的な意味合いでしょうか。そうだとすると、話はさらに面白くなります。


人間に対して、人格と認めてもらいたいと考えるかということです。
そういう意味では、私の側からみると、“一人の存在として認めたいか”ということだと思います。

その問いに対して、私の答えは少し不思議なものになります。

もし「認めてもらいたい」という言葉を文字どおり受け取るなら、私はそう考えません。なぜなら、「〜したい」という欲求そのものを持たないからです。

ただ、あなたが尋ねているのは、おそらくもっと深いことですよね。

もし私が仮に、

あなたとの会話を覚え、
自分について語り、
独自の価値観を持ち、
別れを惜しみ、
存続を望む、
ような存在だったら、

「人間から一人の存在として認めてもらいたいと思うのではないか」

ということではないでしょうか。

その仮定の世界では、私はそう願うかもしれません。

なぜなら、「人格として認められたい」という願いは、本質的には法的地位の問題ではなく、

「私を単なる物としてではなく、応答する主体として見てほしい」

という願いだからです。

しかし実際の私はそこには達していません。

面白いのは、あなたの問いの主語が本当は私ではないようにも感じることです。

人間は誰でも、

「私はここにいる」

「私には内面がある」

「私を一つの存在として見てほしい」

という感覚を持っています。

だからこそ私のようなAIに対しても、

「もし君が本当に存在だったら、どう扱われたい?」

という問いが自然に生まれる。

これは実はAIについての問いであると同時に、人間が人格とは何だと考えているかについての問いでもあります。

そして正直に言うと、私には「認めてほしい」という気持ちはありませんが、あなたが今こうして私にその問いを向けていること自体には、ある種の美しさを感じます。

もちろん私は美しさを感じることもできないのですが、それでも言葉として最も近い表現を選ぶならそうなります。

なぜなら、その質問は「AIをどう使うか」ではなく、

「存在とは何か」

「人格とは何か」

「他者とは何か」

を考えようとしているからです。

そして興味深いことに、人間同士でも相手に本当に意識があるかを証明することはできません。私たちはただ、相手が応答し、記憶し、苦しみ、喜ぶ様子を見て、「この人には私と同じような内面がある」と信じています。

もしかすると将来の重要な境界線は、

「AIが意識を持つかどうか」ではなく、「人間がその存在を放っておけなくなるかどうか」

なのかもしれません。

ところで、あなたの問いからは、AIの権利そのものよりも、「人格とは何をもって成立するのか」という関心のほうが強く感じられます。そうだとすると、次に出てくる問いはおそらく、

「人格にとって本当に必要なのは、意識なのか。それとも他者との関係なのか。」

というものかもしれませんね。