非常停止ボタンと人生 | ワクワク人生研究所所長 小未来のブログ

ワクワク人生研究所所長 小未来のブログ

「最近ワクワクしたのいつだっけ…」
そんな人生に一石を投じるべく、
日々、研究活動と思考実験に勤しむ
ワクワク人生研究所所長・兼実験室室長、小未来のブログ

非常停止ボタンと人生

20160610



米グーグルが

人工知能が暴走した場合に備え

「非常停止ボタン」の開発を

進めていることが明らかになった。


※日本経済新聞社会欄より



▼緊急停車します

「非常停止ボタン」と言われて

最初に思い浮かべるのは

列車の非常停止だ。


「急停車します、ご注意ください」


の自動アナウンスとともに、

その列車に備わっている

一番強いブレーキが発動する。


時速100キロ程度で走行中であれば

20秒強で完全停止する。


そのあと車掌のアナウンスで

緊急停車した理由が告げられる。



▼非常操作

首都圏内の各路線の列車にほぼ毎日、

合計2時間以上乗車している僕が

体感的に最も多いなと感じるのが


駅のホームにある

「列車非常停止警報装置ボタン」が

押されたことによる、緊急停車。


ホームに人が転落した時などに

柱などに設置されている

このボタンを誰かが押すと、


緊急事態を知らせる信号が

瞬時に周りの各列車に送信され、

信号を受けた車両は

一番強いブレーキをかけることに

なっている。


最近では運転士が操作せずとも

車両が自動的に停止する仕組みが

導入されつつあり


非常停止ボタンによる操作は

他の何よりも最優先で

機能しなければならないのだ。



▼にもかかわらず

AIの場合、

ある研究グループによれば


全てのケースで

「非常停止ボタン」が

機能するかはわからない。

と言う。


“人間の意志で強制停止出来ない”

そんな危険性をAIは内含している

とのこと。


操作者の意志と切り離された

独立した思念体であるAIが

「強制停止」を拒絶する―


昔のSFで取り上げられていた

恐怖のワンシーンが現実問題として

多くの研究者の頭を悩ませているのだ。



▼非常停止ボタンと人生

AIの非常停止のポイントは

AIを“だます”ことにあるそうだ。


非常停止ボタンが押されたら、

誰かによって命令されたわけではなく、


あたかもAI自身が停止することを

選択したかのように振舞うよう、

予めAIのアルゴリズムに

仕組んでおくというもの。


…

まあそれでも

万が一非常停止ボタンが

効かなかったら…


電源を切ればいい。


なので、

個人的には非常停止ボタンの横に

AI電源OFFボタンを

設置してもらいたいな、と。。笑