昨日のNEWS JAPANに『「殺人ロボット」の脅威を国連に警告』という記事が載っていましたが、それを読んでいて、現在のAIブームそのものにも怖さを感じてきました。
核兵器はもちろん脅威ですが、外部からのハッキングができないように厳重に守られアナログ化されたボタンを操作するのは今のところ人間でしょう。ところがこのNEWS JAPANの記事によると、AIの進歩によって「殺人ロボット」なるものが密かに開発されているようです。
現在のAI技術では、予めプログラミングされたシステムを人間が操作する形となることでしょうが、ハッキングによって暴走したり、AIの更なる進歩によって人の手を借りずに独自の判断で標的を攻撃するようになる可能性も考えられるそうです。
AIの進歩は人間の生活を便利にすると信じられていますが、その開発がある限度を超えると歯止めがきかなくなる恐れがあります。
現在工業用ロボットもかなりAI化されて複雑な作業をこなせるようになってきており、ペットロボットや介護ロボットなど生活に結びついたロボットも開発されてはいます。でも上記の「殺人ロボット」だけではなく、生活に結びついたロボットも独自の判断の元に行動をできるようになった場合はどうでしょう。生物には自己保存能力が備わっていますが、その能力をAIが持つようになると、もしAIが人間にとって都合の悪い判断をしたとしてもそれを止めることができなくなるかもしれません。
AIの進歩によって既に人間の手作業が必要だった職業から先に多く消えていっていますが、これから先はそれがもっと加速化していくことでしょう。人間の感覚でしかできないと考えられていたデザインや音楽の分野も既に自動化され始めているようですし、Aiが独自でプログラミングを出来るようになると、人間ならではの能力も超えていくことでしょうし、この恐怖はもはやSFの世界では無くなってしまう恐れがあります。
「殺人ロボット」の開発に対して専門家たちがその脅威を国連へ呼びかけているそうですが、同時にAIそのものの開発にも歯止めをかける必要を感じます。