非常停止ボタンと人生

米グーグルが
人工知能が暴走した場合に備え
「非常停止ボタン」の開発を
進めていることが明らかになった。
※日本経済新聞社会欄より
▼緊急停車します
「非常停止ボタン」と言われて
最初に思い浮かべるのは
列車の非常停止だ。
「急停車します、ご注意ください」
の自動アナウンスとともに、
その列車に備わっている
一番強いブレーキが発動する。
時速100キロ程度で走行中であれば
20秒強で完全停止する。
そのあと車掌のアナウンスで
緊急停車した理由が告げられる。
▼非常操作
首都圏内の各路線の列車にほぼ毎日、
合計2時間以上乗車している僕が
体感的に最も多いなと感じるのが
駅のホームにある
「列車非常停止警報装置ボタン」が
押されたことによる、緊急停車。
ホームに人が転落した時などに
柱などに設置されている
このボタンを誰かが押すと、
緊急事態を知らせる信号が
瞬時に周りの各列車に送信され、
信号を受けた車両は
一番強いブレーキをかけることに
なっている。
最近では運転士が操作せずとも
車両が自動的に停止する仕組みが
導入されつつあり
非常停止ボタンによる操作は
他の何よりも最優先で
機能しなければならないのだ。
▼にもかかわらず
AIの場合、
ある研究グループによれば
全てのケースで
「非常停止ボタン」が
機能するかはわからない。
と言う。
“人間の意志で強制停止出来ない”
そんな危険性をAIは内含している
とのこと。
操作者の意志と切り離された
独立した思念体であるAIが
「強制停止」を拒絶する―
昔のSFで取り上げられていた
恐怖のワンシーンが現実問題として
多くの研究者の頭を悩ませているのだ。
▼非常停止ボタンと人生
AIの非常停止のポイントは
AIを“だます”ことにあるそうだ。
非常停止ボタンが押されたら、
誰かによって命令されたわけではなく、
あたかもAI自身が停止することを
選択したかのように振舞うよう、
予めAIのアルゴリズムに
仕組んでおくというもの。
…
まあそれでも
万が一非常停止ボタンが
効かなかったら…
電源を切ればいい。
なので、
個人的には非常停止ボタンの横に
AI電源OFFボタンを
設置してもらいたいな、と。。笑