AI分野の「神」のひとり、とされるYoshua Bengio教授を招いたAI・PTが開催されました。AIセーフティについてお話をうかがいました。
AIが人間と同じ位の知能を持つ未来は確実にやってくる。人間レベルのAI=AGI（汎用人工知能）の世界になったらどうなるのか。
AIが自己保存の目的を持つようになるかもしれない。AIが人間にとって代わって判断する方が良い、となるかもしれない。その場合刑事罰を課す可能性を議論しなくてよいのだろうか。
AIが個々人に影響を与えるだけでなく、犯罪者を雇用し、金融市場で稼ぎ、自らを複製し、サイバー攻撃をしていく、または、AIがロボットをコントロールし人間の関与を奪う、こうしたシナリオも考えておかねばならない所まで来ている。
更に、AIへの投資ができる少数者だけがAIを使うようになれば、パワーの集中がおき、民主主義に反する動きにもなりうる。
AIが人間に逆らわないようにする檻を作る、科学的安全弁があっても、悪意のある人間、または国家がAIを使った犯行に走る可能性もある。
哲学的な議論も含めて実り多い時間でした。AIがもたらす恩恵は当然あるものの、AIの安全の定義はテクノロジーの進化と共に変化していくことも意識して、未来志向で政策を組み立てていきたいと考えています。