行政書士とAIの基本⑩
AIが反乱を起こすことはあるのか？
AIは「ある達成しなければいけない目的のもと、人間がプログラムして作られて
いる。」ので、もし、AIが人間がAIに「人間世界を壊すことを」を目的として与えたら、AIが人間を襲ったりすることは考えられなくはない。その他にもいくつかの理由があり、「反乱を起こすことはない」と言い切ることはできないのである。
つまり、人間がAIに何を命令するかで、AIの行動はよくも悪くもなるのである。
また、AIが強化学習で、人間が想定しない行動で目的を達成することを学習した場合、その想定しない行動が人間に危害を加えることがある。また「進化学習」という手法では人間が想定した報酬関数をAI自身が書き換える懸念もある。想定外の関数が生まれ、人間にとって脅威となる機能を発揮するAIが誕生するかも知れない。