強いAIの主張が正しければ、私の意識体験を共有するレプリカを作ることが可能である。しかし私の意識体験を共有するレプリカは現実的にも理論的にも不可能だと思われる。なぜなら同時に二つの主観であることはできないからである。先に言うと、これが結論だ。むしろ、これを前提で考えるので、これが受け入れられない人は説得できないかもしれない。もちろん逆もその通りということになる。AIが知性を持つとどんなに詳しく論じられても、私は納得しないだろう。
AIとは何かというと、簡単に言えば0と1の組み合わせで表現する言語である。あいまいなところはない。ここで特に強いAI主義と言ったが、アルゴリズムが存在すればそれは意識と言えるという立場を指す。一定の温度でスイッチが入ったり切れたりする炬燵のサーモスタットのような装置でも意識的とされる。弱いAIはもう少し理性的な動きをするまでは意識を認めない。ただしコンピュータともなればもちろん意識であると認める。私見では、強弱の違いを設けることにあまり意味を見出しがたい。サーモスタットとコンピュータプログラムは質において変わらないと思う。早い話が、アルゴリズムはサーモスタットをたくさん組み合わせた代物だからだ。電流が流れるとON、流れなければOFF,ということで、水路を作って、水門を開け閉めすることで代用可能なのだ。 その水が最後にたどり着いたところを答えとして出力すればよい。地球の陸地全てに細かく水路をめぐらせて、それが意識を持ちうるだろうか。あるいは家庭用スイッチを銀河系の規模で組み合わせれば、理性を持つか。水渡とスイッチの、この二つのたとえは、コンピュータは意識的にはなりえないことの例として昔からある。ただし、もちろんそれに納得しない層は一定数いる。水路の全体、スイッチの全体を見ることができればそれは意識的であり得る、というものだ。一つの水門に着目するから訳が分からなくなるのであり、水路がもし本当に人間の脳程度に複雑に組みあがっていれば、それは意識を持つはずだ。どうだろう。それは少し信じがたいが、例によって私の先入観かもしれない。
量子コンピュータというものが評判になっており、その建前は量子の重ね合わせ状態を計算結果に反映するということになっている。だがそれはあくまで理論上のことだ。一つの量子の重ね合わせというものを観察することはできない。たった一つの量子の情報を引き出す手段などない。そもそも原子すらあまり正確にわかっていない。ましてや重ね合わせであるなら、現実世界との相互作用は不可能であるということだ。現実とかかわりを持つためには1か０でなければならない。したがって重ね合わせ状態とは全く架空の理論ではないか、ということまでは言えないとしても。言いたい気持ちはあるが。
そこまでは頭の悪い人間の独断的な意見だということでよい。しかし少なくとも、それは言語的なプログラムで書かれ、その線で答えを出す。全面的に機能主義的なマシーンであり、それ以外のものではない。最低限でも、それは演繹的に思考する。将来登場する恐ろしく高度なテューリングマシン（アラン・テューリングという人が現在のコンピュータの原理を作った）の内部で何が起きているのかは、複雑すぎて人間には追えないだろう。しかし原理上それは０と1の並び以上のものにはなりえない。P≠NP予想という未解決の問題があるが、その結論はAIが意識であり得るかどうかに直結しないだろう。私たちが外からそのAI上のアルゴリズムの意味を汲み取れないということもあるだろう。また全体から評価して何番目の記号が0か1かを言い当てることができないということもあるだろう。ただしそのことは、内的にははっきり決まっていることとは無関係だ。
