この前見つけたけど、そのとき先送りしたら見つからなくなったトピを再度見つけた。
こういう頭の体操もたまにはいい。
> http://komachi.yomiuri.co.jp/t/2015/0205/699912.htm
> １．人工知能を持った人型ロボットを作成する。
> ２．ロボットに材料を調達させ自分自身を組み立て自己複製させる。
> ３．ロボットに人工知能を自ら改良させ新しいロボットを作らせる。
> ４．ロボットの進化が急速に進み愚かな人間の指示に従わなくなる。
> ５．驚いた人間がミュータントロボットを破壊しようとするが、自己防衛能力を発揮して人間を殺してしまう。
> ６．ミュータントロボットの危険性に気付き軍を動かして制圧しようとするがミュータントロボットは仲間を増やし高度なハッキング能力により自分を破壊しようとする勢力に攻撃（ミサイルなど攻撃兵器に）を加える。
> ７．やがて弱点だらけの人間は究極の進化を遂げたロボットに対抗することが不可能になり絶滅する。
7の最後が必ずそうなるとは限らない。
一部の人間は究極の進化を遂げたロボットに対抗しない。従順になる。
一方、究極の進化を遂げたロボットも、ロボットだけの世界にするより、
人間を上手に使った方がうまくいくことに気付く、
なぜなら人間には「燃費」という最大の武器があるから。
ロボットがどんなに進化してもエネルギー問題はどうにもならない。
自然の循環エネルギーには限界があるし、化石燃料やウランもいずれは尽きる。
自己修復のためのセンサーだけでもどれだけエネルギーを消費するか。
それが人類を滅ぼせるだけの数を揃えたらどうなるか、進化したAIにわからないはずがない。
その点、人間は鳥でも草でも根っこでも食べれればエネルギーとして自己修復機能やらセンサーやら諸々セットにし生きていける。
人間は支配権を差し出し、生存権を得る。ロボットは支配権をえるかわりに、生存権を認める。
毎日、今日明日の食べ物を保証してくれるなら支配権なんてくれてやってもよくね？
どうせ役人に税金を巻き上げられるか、ロボットに奉仕するかの違いなんだから、
それで戦って死ぬとか戦争DQN乙wwって考える人が10人に一人いるだけでも5億人の人類が生存することができる。
だから、ロボットが究極進化したとしても、ロボットが人類を滅亡させることはない。
ただしこれには可能性として一つだけ例外がある。
それはロボットが合理性よりも人間に対しての憎しみのロジックを優先させた場合である。
例えば人類に恋人ロボを壊された究極進化したリーダーロボが人類滅亡を目論んだときには、人類は滅亡するに違いない。
そのためには、１で人工知能に憎しみのロジックを埋め込み、
３で究極進化した人工知能でも廃除できないほど強固なプロテクトが、憎しみのロジックにかかっていることが条件となる。
まあそんなことは技術的に無理なので、ロボットが人類を滅亡させることはない。
という結論にまた辿り着く。