ロボット三原則 と AI10原則 ～SFの世界はどのように実現するのか～
AI(人工知能)10原則の原案を政府が提示した、とのニュースがありました。
すぐに思い浮かぶのは、ロボット三原則です。
***************
ロボット三原則（あるいはロボット工学三原則）とは、
SF作家として知られるアイザック・アシモフ（1920－1992）が、
『われはロボット』 という短編集で提示したものです。
それは、
第一条 ロボットは人間に危害を加えてはならない。
また、その危険を看過して、人間に危害をおよぼしてはならない。
第二条 ロボットは第一条に反しない限りで、
人間の命令に従わなければならない。
第三乗 ロボットは第一条及び第二条に反しない限りで、
自己を守らなければならない。
2058年『ロボット工学ハンドブック』
という内容です。
後に、
第零条 ロボットは人類に対して危害を加えてはならない。
また、その危機を看過してはならない。
が付け加えられました。
アシモフのSFに登場するロボットは、この原則に従うように作られているのですが、
それがかえって、問題や事故を起こすことにもなっていて、
SFのお話しになっていきます。
SFで提示されたこのロボット三原則ですが、
安全性、利便性、耐久性、などと読み替えるならば、
現実の電化製品にもそのままあてはまり、
実際に、現代のロボット工学にも影響を与えているようです。
***************
政府が提示したAI10原則は、
AI事業者向けの指針としての10原則です。
それは、
１.人間中心
２.安全性
３.公平性
４.プライバシー保護
５.セキュリティー確保
６.透明性
７.説明責任
８.教育・リテラシー
９.公正競争確保
10.イノベーション
と、まとめられています。
***************
SFの世界で語られてきたものが、次々と実現してきています。
維摩会 春秋館の御話しでも、
SFの世界が現実になり、
SFの中だけで提示されていた世界観が、科学的に証明されている、
とお聞きしています。
アシモフの提示したロボット三原則も、
政府提示のAI10原則も、
一見すると当たり前のように思えますが、
現実の具体的場面になると、実際にどうするのがよいのか、けっこう難しいのです。
アシモフのSFでは、それがSFのお話しになって、
原則の矛盾が明らかになったり、事故や事件が起こったりしていきます。
政府提示のAI10原則も、現実の場面ではなかなか判断が難しくなることでしょうが、
これからの世の中では、避けることはできません。
アシモフが後の作品の中で、「人類」という言葉を用いて第零条を加えたように、
AI10原則も常にブラッシュアップされる必要が出てくるに違いありません。
アシモフのSFでは、
ロボットが支配することによって「人間に危害を加えない」ことになる、
という結論をロボットが導き出す場面が出てきます。
SFのこのような話しが現実にならないように、と願うのですが、
この願いそのものが、SFが現実になってきていることを一番感じるように思うのです。