アイザック・アシモフの「ロボット工学の三原則」

「ロボット工学の三原則」というルールは、「サイエンス・フィクション」を著者である 「アイザック・アシモフ」が改訂した。彼は１９４２年に短略版「堂々めぐり」を紹介。

彼らは、アイザック・アシモフ氏の「フィクション・ユニバースのロボット」がプログラ ミングされた。

第一法則：ロボットは、人間に危害を加えてはならない．またその危険を看過することに 　よって，人間に危害を及ぼしてはならない．

第二法則：ロボットは人間に与えられた命令に服従しなくてはならない．ただし，与えら 　れた命令が第一法則に反する場合はこの限りではない

第三法則：ロボットは前掲の第一法則，第二法則に反するおそれのない限り，自己を守ら 　なければならない．

しばしば、「三法則」や「アイザック・アシモフの法則」などと省略されるが、これらの 三法則（三原則）は，１８５０年にアイザック・アシモフが執筆した『われはロボット』 の扉に記されている．

後にアシモフは，この三法則に先立つものとして「第零法則」を提示した。すなわち下記 のようなものである。

「第零法則」：ロボットは人類に危害を加えてはならない．またその危険を看過すること によって，人間に危害を及ぼしてはならない．

その結果として，第一法則は下記のように変更を受けた。

新しい第一法則：ロボットは、人間に危害を加えてはならない．またその危険を看過する 　ことによって，人間に危害を及ぼしてはならない．ただし，第零法則に反する場合は、 　この限りではない． しかし、一見完璧に見えるこのロボット工学三原則も、実は危険、限界があるのだ。その 限界とはどんなものか。 結論から言うと、「ロボットが人間を奴隷化してしまう可能性があること」である。 これは一体どういう意味だろうか。 まず、ロボット工学三原則により、「ロボットは人間に危害を加えてはいけない」という ことが最優先事項としてプログラムされている。 では、もし、人類が人類自身に危害を加えるような行動を取っていた場合、どうなるのか。 「ロボットは人間に危害を加えてはならない」ということは、プログラム上では、「人間 に危害を加えるような行動はしない」とインプットされていると考えることができる。 すると、人類が自分たち自身を傷つけるような行動をしていた場合、ロボットからすると、 「ただ見ているという行動を取る＝人類が傷つく」→「人類が傷つかないように、守るよ うな行動をする」という判断をおこなう可能性は十分にあり得る。 人類はこのままで自分たちを傷つけるような行動を取ってしまう。それならば、自分たち； ロボットが守ってあげよう。 そう考えることで、「ロボットが人間たちを過度に監視、行動を制限するようになる」こと がありえ得るわけである。 「放っておくと大きく人類が傷ついてしまうなら、多少傷ついても、行動を制限して守る」 という発想なわけである。・・・ムムｍ