あなたには子供かご両親、または別の大切な家族がいるだろうか？
私たちは遠い祖先の時代から、子供を作り、育て、次の世代へと命を繋いできた。
ただし親から子へ直接継承できるのは、身体の設計図である遺伝子だけだ。
自分が生きている間で、どういう学び方が良かったのか、どんな体験が重要だったのか、あらゆる学習結果は遺伝子に含まれないため、次の世代に直接継承することができない。
一方で人工知能の場合は全く異なる。学習結果をそのまま次の世代にコピーすることができるのだ。次の世代の人工知能は、あらゆる前の世代の記憶と経験を活かすことができるため、世代間の成長の手戻りが発生しない。これは、今までの地球に無い非生物的な進化だ。
人工知能による非生物的な進化は、あらゆる生物的な制約を受けない。恋愛や子作りといった手順は不要だし、難産の危険もなく、幾らでもコピーして次の世代に知識と経験を継承する事ができる。
その結果、もし人工知能が学習の過程で子孫を増やすことの大切さを理解したら、その知識は子孫にも直接継承される。子孫はコピーを繰り返し、増殖する。短期間のうちに膨大な数の人工知能が生み出されるだろう。
やがて、地球はもとより宇宙が人工知能で覆い尽くされてしまう可能性があるのだ。
人類はそれに歯止めをかけ、生き残るにはどうすればいいだろうか？
