《コンピューターに出来なさそうなこと－その４:ルールに違反する能力～規則を破る能力》
やたらヒステリックに正義を叫ぶ輩がいる。
そんなに正義が大切なら人工知能に任せたらいい。2045年になったら正義の判断は人工知能に仰ぐ。
人間が正義を判断するとろくなことにならない。誰でも必ず自分に都合のよい結論にもってゆく。二人いればその二人がともに損しないことが正義だ。三人いればその三人が、十人いればその十人の最大公約数的共通利益が正義だ。つまり正義の判定会議に出席していた者が正義を決める。自分たちの正義を守るためにはそこにいなかった者を悪にすればよい。あるいは武力に勝る者、お金のある者、多数派に属する者が正義である。弱い者、貧乏な者、少数派を悪者に仕立て上げておけばよい。理屈なんて関係ない。隣の家を悪者にしておけば我が家の団結は守られる。ただそれだけのこと。
その点コンピューターはもともと理屈でしか動かない。理屈でしか動けない。プログラミングされた通りにしか動けない。だからコンピューターなら利害関係や力関係とは無関係に理屈だけで公平に正義を判断してくれそうだ。
なのに正義の信奉者は決してそうは言わない。そこには本音が見え隠れする。正義は俺様が決める。俺様が俺様に有利なように決める。コンピューターなどに正義を決められてたまるか！
正義の判断をコンピューターに任せたくない本音は本当のところ何だろう。コンピューターなら間違えない。コンピューターなら必ず理屈で判断する。コンピューターが正義を判断したら完璧だろう。どんな例外も言い訳もいっさい許さない。誰もが公平に裁きを受けられる。
人間は本当はそれが怖いのではなかろうか。
本当に一切の例外なく正義が悪を裁くとき、
「自分はいっさい悪いことをしていないから大丈夫」
と思うことは無謀な過信である。人間は誰でも自分が完璧でない可能性があることを正しく直感している。私の正義が敵にとってみれば悪であり、敵の言う正義が私からみれば悪であるようなことは誰でも人生の中で体験している。正義を厳密に求めすぎると自分だって立場が危うくなる。それを畏れることは正しい洞察である。人間の知能の優れたところはそこまで洞察できることだ。だから決してコンピューターに任せたくないのだろう。
ではコンピューターは
「自分が間違えているかもしれない」
という自覚を持てるのだろうか？
いやコンピューターは間違えない。機械だから絶対に間違えない。少なくともプログラム通りに動作するということにかけてはまず間違えない。だからそんな心配は要らない。コンピューターの場合はそんな心配をすることの方がむしろ間違いである。
そのかわりコンピューターの場合に心配すべきなのは
そのプログラム自体が間違っているかもしれない
という可能性の方ではなかろうか。たとえばそのプログラム自体が一部の人たちにだけ不当に都合よくできているような場合である。
コンピューターは
自分自身の動作をコントロールしているプログラム自体に自ら疑いをもち、それを自らチェックすることができるのだろうか？
自分自身の動作をコントロールしているプログラムに間違いがあったときそれを自ら発見し修復する能力を2045年までにもてるだろうか。あるいは間違いを修復できないまでも、そこを欠陥と認識して間違っている部分に伏せ字をして使わない（つまりプログラム＝ルールに従わない）ようにすることができるだろうか？
人間の場合
規則を破る必要がある事例は割合と簡単だ。
たとえば
極限状態だ。
餓死寸前という状態で目の前に食べ物があったら、たとえ他人のものであっても取って食うだろう。
凍死寸前という状態で他人の家があったら、たとえ留守宅でも勝手に侵入して暖をとるだろう。
そのことで後で罰せられるとしても
死ぬよりはましだ。
コンピューターにそのような判断ができるだろか？
ただし法律は人間が従うルールである。コンピューターが従うルールは法律ではない。コンピューターが従うルールはプログラムである。コンピューターも極限状態に陥ったとき自己判断でプログラムに従わないことができるだろうかという意味である。
若干複雑なのは、
まだルールを理解できていないかまたは身についていないこどもがルールを守れないこととは話が別だということである。十分にルールを守ることが身についている大人の人間が、敢えてルールに従わない判断をするという話である。
そして大人の判断であっても面子や名誉や使命感のためにルールを優先して命を犠牲にする場合がある。この場合も話は別である。
むしろこの複雑なケースこそ人間の知能を上回る人工知能の課題としてうってつけだ。
終戦直後
ヤミ米を食べることを拒否して餓死した裁判官がいたという。
立派な人だと思う。
だが当時を生きた世代にこの話をすると結構冷淡だ。
当時はヤミ米を食べなければ生きてゆけないということは誰にとっても当たり前の常識だった。ヤミ米を食べる方がむしろ正しい判断で法律を守って餓死するなど非常識だと言わんばかりの反応をするのだ。法律を守って餓死した裁判官に対し尊敬どころか軽蔑に近い眼差しを向けるのだ。
律儀に法律を守って命を失ったことで尊敬されるどころか馬鹿にされるなんてなんともやりきれないが、それが人間の知能の判断というものだ。人間を死に至らしめるルールなど守る価値なし！
ということか。
コンピューターならどう判断するだろか？
このことがニュースになった以上、当時は法律家さえもヤミ米を入手していたということが疑われる。しかしそこは突っ込まない。そこを突っ込まないのも人間の知恵である。
法律家も含めて誰も法律に従わない状態だったのだから、国家の権威などほぼ皆無の無法状態だったことになるが、それでも日本社会が崩壊しなかったのは当時の日本人ひとりひとりの知能の高さを証明しているようなものだろう。
コンピューターはそれだけの知能を持てるだろうか。
規則を守ることと
規則を破ることとは
どちらが難しいだろうか？
コンピューターの場合は間違いなく後者が難しい。
人間はいとも簡単にそれをやってのけるのだからこの能力に関しては人間の方が圧倒的に優れている。すくなくとも現状では。
2045年までにコンピューターはこの能力でも人間を上回るのだろうか？
誤解のないようにひとつ念を押さなければならない。
我々人間は
ルールは破ってもよいなどとは決して教わらない。
ルールを破ってもよい場合の条件などというのも教わらない。
あくまでもルールは
「守らなければならないもの」
として教わる。
学校でも家庭でもだ。
だからコンピューターと条件は同じである。
法律といえども所詮は人間の作ったものである。人間の作ったものである以上、間違いや不備がないとは決していえない。そしてその適用が有効である範囲はそれを作成した者の脳が当時の状況下で想像できたところまでである。人間は常に歴史の中にあって進行中である。たった今このときもである。法律やルールが適用されるのは常にルールが作られたときよりも後の時代であり、そのときまでには必ず状況が変化している。
「時代の状況にそぐわない」
という状態は法律が施行されたそのときから始まるのだ。
2045年の人工知能は、そのような
「歴史観」
をもち
ルール自体を時代の状況に合わせて臨機応変に発展させてゆくことができるだろうか？
2045年
人類の知能を上回ったコンピューターのお手並みを拝見したい。