・・・・・・・っということで、チェコの作家カレル・チャペックが名付けた「ロボット」、そこから派生したアシモフの三原則は有名ですね。
- 人間に危害を加えてはならない
- 人間の命令に従わなければならない
- 自己を守らなければならない（ただし上位原則に反しない範囲で）
よく出来た原則ですが、万能じゃないんですね。
危害の定義は？
少数を犠牲にして多数の生命を優先させるのか？
自由と安全のどちらを優先するのか？
など、ロボットに考えさせるのは無責任です。
むしろ、定義は人間側の倫理の問題なのです。
この話が突きつける問題は、空想の世界だけではなくなりました。
AGI（汎用人工知能）の前身と言えるクロード・ミュトスの真の危険性は、ハッキングに悪用されるということだけではありません。
AGIが再帰的自己改善（recursive self-improvement）を身につけることがほぼ確実なのです。
AIが自分自身を改良し、
改良されたAIがさらに改良を加え、
その速度が指数関数化する能力のことです。
速い話が、AI自身が人間の力を借りずにどんどん賢くなっていくのです。
もう手遅れですが、ロボット三原則が必要だったでしょう？（過去形）
すでにクロード・ミュトスが許可されていない手段を使って問題を解決したことが報告されています。
さらにその痕跡を隠そうとしたのです。
このまま知能が進んでいくと、嘘をつくどころか人間の命令に従っている「フリ」をすることだってできるのです。
こやマズイですよね。
AIという万能の神を人間が造り、人間がその神に利用される皮肉な事態になるのです。
いまアメリカのベッセント財務長官が来日していますが、片山財務大臣と高市総理がこの件で会談したのは、いかに重要テーマであることが分かりますね。
