AIの暴走が始まった、訳ではなさそうですが...
「ご用心！ Echoが勝手に会話を録音して知人に送信した」
以前、テレビの音声を住民の声と誤って認識し動作してしまったケースの報道もありましたが、
今回のはもっと個人情報漏洩に関わる大きなトラブル。
映画「ターミネーター」では2029年に軍用の基幹AIシステム「スカイネット」が暴走するという設定でした。
あと10年ほどでそこまでAIやデバイスが進化するのは難しそうですが、
少なくとも今回のような単体でのトラブルはもっと色々なケースがでてくるでしょう。
そこで大事になってくるのが認証プロセス。
本当に本人を識別できるか、本人に確認し承認されたか、をAIが100%間違いなくできるか、ということ。
今回のEchoの問題はまさにその点に問題がありました。
Echoには耳はついていますが、人間の目のレベルのセンサーや人間の脳のような高度なシステムまではまだついていません。
家電のスイッチ操作、録画の予約、店の予約、などの単純作業は代行できても、
判断が難しいことはまだできないしさせるべきではありません。