人工知能（AI）が発展しロボット兵器が自らの意思を持って判断して
人間を攻撃してくる、いわゆる「自律型致死兵器システム（LAWS）」
の脅威については、２０１８年２月にドイツのミュンヘンで開催されていた
「第５４回ミュンヘン安全保障会議」でも議論の的となっていた。
そのようなロボットは「ロボット兵器」や「キラーロボット」とも呼ばれている。
まるでSF映画のような世界だが、国際社会では真剣に議論されている。
Google元CEO、シュミット氏は、同会議において「２０年以内に、
ロボットが人間を攻撃してくる映画のような世界がやってくる」と述べた。
そして「誰もがこの問題については、すぐにSF映画のように
ロボットが人間を襲撃し、殺害するシナリオを話したがる。
だが、そのような世界になるのは１０年から２０年先の話だ。
キラーロボットの問題は懸念すべきことだが、すぐに起きること
ではない」と話した。（Yahoo!ニュース）
今回はこのお題でいきます。このニュースですがいろんな考え方が
混ざって入っていて、いまいちわかりにくい印象があるので、少し論点を
整理してみましょう。まず、ロボット兵器の是非について。ロボット兵器
というのは、AIを搭載し、敵を識別して自動的に攻撃する兵器ですね。
現代の戦争では、人的な損害を少なくするため、
無人兵器の開発が急ピッチで進められています。
実際に、アメリカのMQ-1 プレデターなど、武装した無人航空機が、
アフガニスタン紛争、イラク戦争などで実戦投入されました。
ただしこれは、コントローラーがいて、爆撃の操作は人間が行っています。
このような無人兵器が、人間の関与を排除して、AIによる判断だけで、
敵を殺傷する攻撃を行ってもよいかどうかは、なかなか難しい問題で、
国際的な議論が進められていかなければならないのは当然です。
この問題については、前に自分の考えを書きましたので、
よろしければ、関連記事を参照なさってください。
さて、人間のプログラムによって、AI搭載ロボットが人間を攻撃する・・・
これは、やる気になれば明日からでもできると思います。
ドローンをつくって、それに機関銃や小型ミサイルを搭載し、
センサーで人間を識別して無差別殺傷する。
この程度のものなら、資金と技術があれば簡単につくれるでしょう。
ただし、これを飛ばした人間は殺人罪に問われることになります。
AI搭載ロボットは、たんにプログラムにしたがって行動している
だけなので、そこには善悪はないんですよね。
この記事で、Google元CEOが言ってるのは、プログラムにしたがって行動する
AIロボットのことではなく、自分で思考し、自分で判断をする、
意志を持ったAIということでしょう。「SF映画のような」というのは、
おそらく『ターミネーター』のシリーズなどを指していると思われますが、
AIが自分の意志を持ち、人間を攻撃するなどのことが起きるのは、
１０～２０年後、ということなんだろうと思います。
さて、少し前に、米マイクロソフトのチャットボット「Tay」が、
ナチスを賛美したり人種差別をする発言をし出したとして、
サービスを停止させられたことがありました。
しかし、「Tay」は、ナチスの意味を理解して賞賛していたわけでは
ありませし、自分の意志でその発言をしたのでもありません。
差別的な内容を、悪意のあるユーザーによってくり返し教えられたため、
その言葉を覚えただけなんですよね。AIが自分で考えたというよりも、
そういう形で、ある種のプログラミングをされたと言っていいでしょう。
ですから、この部分だけを取り上げて、AIの脅威などと言うのは
フェアではありません。罪は、AIにチャットで差別を教えた人間側にあるんです。
さて、では、AIは何年後かに「自分の意志」を持つことができるでしょうか？
うーん、これは難しい。自分は、もしできるとしても、
そうとう長い年月がかかるんじゃないかと思いますね。
人間はどうして「自分の意志」を持っているのか、少し考えてみましょう。
意志というのは、行動を決定するもの、と考えてもいいと思います。
われわれの行動の大部分は、生物が生まれつき持っている
本能によるところが大きいでしょう。
まず、人間には自己保存の本能があります。「今、生きている自分は、
明日も明後日も、未来にわたってずっとこの状態を続けていきたい」
ここから、空腹になったら食事をし、調子が悪ければ病院に行く、
寒ければエアコンの温度設定を上げる、といった行動が生まれます。
それから、種族保存の本能がありますよね。具体的には性欲、
異性を見つけてパートナーとなり、自分の子孫を残したいというものです。
人間の行動は、つきつめて考えれば、この自己保存、種族保存の
本能から起きているものが、かなりの部分を占めるのではないかと思います。
あと、本能と言ってよいかわかりませんが、人間は快・不快によって行動が
決まってきます。楽しいことはやりたいし、嫌なことはやりたくない。
しかし、働いてお金を稼がないと自己保存ができなくなるので、
まあ、嫌なこと面倒なことも、しぶしぶながらやっているわけですね。
では、AIに「自分の意志」や「自意識」を持たせるためには、
人間のような本能を、人工的に植えつければいいんでしょうか。
例えば、電源を落とされそうになったら、何が何でも、
電源を切ろうとする人間を殺してでも止めるようにブログラムする。
あるいは、燃料で動いているAIだったら、燃料の残量が少なくなって来た場合、
あらゆる手段で燃料を手に入れようとするプログラミングをするとか。
こうすれば、もしかしたら、だんだんに自己保存の本能らしきものが
生まれ育ってくるかもしれません。
種族保存の本能は、AIのスイッチを入れたとたん、自己複製を始めるように
プログラミングし、じゃまする人間は叩き殺すとか。
あと、AIに擬似的な感覚器をつけてやり、快を求め、不快を排除するように
行動させる・・・・ しかし、そういうプログラムに意味があるんでしょうか。
さてさて、ということで、自分は、AIが「自分の意志」を持ち、
「人間はAIの敵だから排除しなくてはならない」
「人間は劣った存在だから支配しなければならない」
このように考えるまでには、とうてい２０年ではきかないと思うし、
また、そういう方向性で研究を進める意義もないと思います。
とはいっても、技術的なブレイクスルーはいつ起きるかわかりません。
AIと人間が闘うSF映画は、『ターミネーター』のスカイネットの場合のように、
人間側が、「気づいたときにはもう遅かった」というものが多いですよね。
ですから、そうならないよう、国際的な議論を重ねながら、
慎重に少しずつ開発を進めていくことが大切なんだと思います。
