応援いただけるならば、クリックを⇒ https://www.blogmura.com/
「ロボット三原則」と言うと、「ロボット三等兵」とどっちが古いんだろう、と思うほど古い話だが、アイザック・アシモフのＳＦ小説に登場する「ロボットが守る可き三つの原則」(※1)。
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
と表記され、アシモフのSF作品ではこの三原則がロボットの「陽電子頭脳」に根源的に組み込まれ、「だからロボットは安全である」即ち「ロボットが人間を支配すると言う恐怖=フランケンシュタイン・コンプレックス(※2)は無用・不要である」と言う事になっており、このアシモフSF世界に於けるロボットの普及に貢献している。
「それでもなお・・・」ってのがアシモフSFの多くのテーマ(※3)なのだが、それはさておいて、現実世界のロボットには「ロボット三原則を組み込まれた陽電子頭脳」なんて便利なものは搭載して居ない。軍用、産業用を含めて多くのロボットの状況認識能力や判断力は極めて限定的であるから、AFP記事も報じる通り、
1> 軍事ロボット技術をリードする米国は既に、パキスタン、アフガニスタン、イエメンなどで無人機や無人車両による偵察・攻撃を行っている。
2> これらはいずれも人間が遠隔操作しており、オペレーターの指令なしで攻撃することはない。
となって居る。所謂Man in the Loap機能と言う奴だ。
だが、センサ技術も識別技術も発達している者だから、現有の無人機・無人車両による攻撃能力がさらに発展し、
3> 報告書は、自ら判断して攻撃する完全自律型ロボットが20年～30年以内、もしくはもっと近い未来に開発されるだろうと予測している。
と言うのは、十分想定される事。「一定海域内の全ての航行船舶を攻撃する」無制限潜水艦戦のような使い方ならば、今でも無人艇・無人潜水艦で実施は可能だろう。「地上にいる人間を攻撃」となると、敵味方の識別だとか、建物や地形に隠れている人間を検出するとか、技術的難易度は上がるだろうが。
で、AFP通信が報じるのは、そんな自律的に、つまり人間様の許可・認可を受けることなく攻撃できる「殺人ロボット」を、国際条約で禁止すべきだと言う国際人権団体ヒューマン・ライツ・ウオッチ（Human Rights Watch、HRW）とハーバード（Harvard）大学法科大学院の国際人権クリニックの主張。
4> 「完全に自律稼動する『殺人ロボット』の開発、製造、使用を絶対的に禁止する国際条約」の制定を強く求めている。
と言うのだから、なかなか勇ましいと言うか、鼻息が荒いと言うか…好意的に言えば「崇高な理想を掲げている」と言えよう。或いはタイトルにもした通り、「ロボット三原則」の部分的適用を要求している(※4)、とも言える。成るほど、「崇高な理想」だな。
だが、この「崇高な理想」。とてもじゃないが実現できそうには思えない。上記4> 「完全に自律稼動する『殺人ロボット』の開発、製造、使用を絶対的に禁止する国際条約」 てのは、一体、何をどう監視する心算なんだぁ？「他律／半自律稼働する『殺人ロボット』」は現在すでに配備されていて、今後もさらに増加するに違いないと言うのに。
パフォーマンス或いは宣伝としての役には立つだろう。「自律稼働する『殺人ロボット』は国際条約で禁止されている」と主張する事は出来る。だが、「自律稼働する『殺人ロボット』」は、核兵器やクラスター爆弾や対人地雷ほどにも特異な特徴があるものではないだろう。
例えば「殺人ロボットが実際に殺人を行った現場を抑えた」としても、それが自律的なのかMani in the Loapで「人間による殺人／攻撃許可を得た」のか、判定できるとは限らないだろう。況やその開発生産段階なんて、密告などの内部情報による以外は知りようもないし、密告があっても実証は困難だろう。「自律的な殺人ロボット」か「人間による攻撃許可を必要とする半自律ロボット」かは、殆どソフトウエアだけの問題。即ち「内臓プログラムの書き換えだけで、両者を切り替えることは可能」であろう。それ即ち、「内臓プログラムのソースコードを読み解かない限り、「自律的な殺人ロボット」と実証できない」可能性が高いと言う事であり、「必要に応じて内臓プログラムを書き換えれば、自律型殺人ロボットと半自律型殺人ロボットを切り替えられる」と言う事だ。両方のプログラムを最初から組み込んでおけば、スイッチなり指令なりで「条約に適合する半自律型殺人ロボット」を「条約違反の自律型殺人ロボット」に変身させる事も出来て、両者の差異はハードウエア上は全く無いようにもできる。
左様な国際条約は、「「殺人ロボット」は国際条約で禁止した」と言う意思表示にはなる。禁止したいと言う「願い・思い」を具体化したものとはなる。それを批准する国もあるだろう。が、批准したからとて「殺人ロボットを秘密裏に作らない」と言う保証はないし、検証も監視も絶望的なほどに困難だ。
つまりは、人権団体の自己満足にしかならないだろう。
＜注釈＞
(※1) 「アシモフのSF」あるから、必然的に「古典的SF」。初出は1950年刊行の「われはロボット I,Robot」（映画「アイ、ロボット」とは大分異なる内容なので、注意。）。一方「ロボット三等兵」は1955年から57年刊行と言うから、僅かながら「ロボット三原則」の方が先行する。
(※2) この言葉自体が、アシモフ博士の造語らしいが。(※3) ついでに書いて置こう。アイザック・アシモフって人は、「生まれつきの作家」だ。NaturalFighter「天性の戦士」ならぬNatural Writerと呼ぶべき人だ。何しろ考えるのと同じ速度でタイプ（後にはワープロソフトになる）を打てて、尚且つその考える速度が恐ろしく速いものだから、生涯に500冊以上の本を書いてしまった人。既に故人だが、そのSF小説や科学エッセーの多くは、今なお色褪せない魅力を持っている。
(※4) 「全面的に」ではない。アシモフのロボット三原則を全面的に適用するとなると、「人間に及ぶ危害の判断」と言う、凄まじい技術的課題を解決しないといけない。