いきなりですが、2045年問題って知ってますか？2045年ぐらいには、人工知能が人間の知性を超えるらしいのですが、それを心配する人がいます。ターミネーターのスカイネットのように自我を持った人工知能が人間と対立するのではないかと。映画のように人間を抹殺するようなことはないでしょうが危険はあります。
たとえば、東京電力の福島第一原発の場合のように電源喪失という想定外の出来事が起きたとき。プログラムされていない条件にどう対応するのでしょう。ロボット三原則に則って、速やかに原子炉に海水を注入して自分たちのシステムを犠牲にするのでしょうか。多少人間に被害があっても、時間をかけ真水を探し炉を冷却したほうが後々使えてコスパがいいやと思うかもしれません。ジレンマですね。
暴走するトロッコ。線路の先には５人の作業員。手前のポイントを切り替えれば５人は助かる、しかし切り替えた側にも1人の作業員。
「Hey AI」
「作業員さんをみんな助けて！」
「……。」
数秒後、胸をなでおろす6人の作業員。しかし、彼らの目の前にはAIの置いた石に脱線した客を乗せたトロッコが…。
ホーキング博士もAIに警鐘を鳴らしていますが、漱石先生の草枕より。
―人でなしの国は人の世よりもなお住みにくかろう―