AI車、初の歩行者死亡事故が起きた理由
歩行者をはねたAIは、最後までそれが 「 人間 」 だと
認識できなかった――。
米国家運輸安全委員会（NTSB）は、2018年3月に米アリゾナ州
フェニックス郊外で起きたウーバー（Uber）の自動運転車による
歩行者死亡事故に関する報告書を公表した。
米国内ではこのほかに、テスラの自動運転車による2件の死亡
事故が明らかになっているが、いずれも犠牲となったのは運転
していたドライバー。
自動運転車による死亡事故で歩行者が犠牲になったのは、
この件が初めてだった。
440ページにのぼる報告書では、ウーバー車のAIは車道に
歩行者がいることをそもそも想定していなかったため、最後まで
「 歩行者 」 とは認識できていなかったことが、明らかにされた。
また、急ブレーキも作動しないなど、様々なシステムの欠陥の
連鎖があったことが指摘されている。
車道を横断する歩行者は想定外――自動運転車の安全性を
めぐる議論は、そんなところから積み重ねる必要があるようだ。
● 440ページの報告書
事故が起きたのは、2018年３月18日、日曜日の夜。
アリゾナ州の州都フェニックスから自動車で20分ほどの郊外、
テンピ市。
この夜9時58分、49歳のエレイン・ヘルツバーグ氏は自転車を
押しながら、４車線のノース・ミルアベニューを歩いて渡ろうと
していた。
横断歩道のある交差点から100メートルほど手前の路上。
通りを渡り終わる前、ヘルツバーグ氏は右から来たウーバー
の自動運転車にはねられる。
自動運転車は2017年型のボルボXC90をウーバーが改造した
もので、一帯で試験走行中だった。
ヘルツバーグ氏は搬送先の病院で死亡が確認される。
ウーバー車の運転席にいたテストドライバーである、44歳の
ラファエラ・バスケス氏にけがはなかった。
今回公開された報告書によれば、ウーバー車のAIシステムが
ヘルツバーグ氏を捉えるのが、衝突の 5.6秒前。
時速 44マイル（ 約71キロ ）で、ヘルツバーグ氏との距離は
110メートルほどある。
この時はヘルツバーグ氏を 「 自動車 」と 認識している。
衝突の 5.2秒前に、今度はヘルツバーグ氏を分類不明の
「 その他 」 と認識。
その後、衝突の2.7秒前にかけて、「 自動車 」 と 「 その他 」
の間を、AIの分類が行ったり来たりする。
衝突2.6秒前。
AIは、ヘルツバーグ氏を初めて 「 自転車 」 と認識する。
だが、ヘルツバーグ氏を 「 静止 」 状態と認識しウーバー車の
進行方向には向かっていない、と判定している。
その距離はすでに 50メートルほど。
衝突 1.2秒前、ヘルツバーグ氏を 「 自転車 」 と認識した上で、
ウーバー車と衝突することを初めて認識。
危険を感知し、作動制御のシステムが始動する。
その１秒後、衝突 0.2秒前になって減速が始まると同時に、
ドライバーのバスケス氏に警報で危険を知らせる。
すでにヘルツバーグ氏との距離は 4メートルほど。
バスケス氏がハンドルを手にして自動運転を終了させたのが
衝突の 0.02秒前。
ウーバー車はヘルツバーグ氏に時速39マイル（ 約63キロ ）で
衝突。
バスケス氏がブレーキを踏んだのは、衝突から 0.7秒後だった。
● ネット動画を視聴する
ウーバー車は最後までヘルツバーグ氏を 「 人間 （ 歩行者 ） 」
とは認識できなかった。
これについて、報告書はこう述べている。
システムのデザインが車道にいる歩行者を想定していなかった
ためだ。
路上の歩行者は歩道にいるもの ― そんな想定でウーバーの
AI車のシステムは開発されていたのだ、という。
しかも、「 自動車 」 「 その他 」 「 自転車 」 と分類が頻繁に
揺らぎ、そのたびに別々の 「 静止している 」 対象と捉えた為、
ヘルツバーグ氏が車道を横切り、ウーバー車の進行方向に
向かって ” 移動 ” していることが認識できなかったという。
また衝突直前、ウーバー車が危険を感知するが、減速を開始し、
警報を鳴らすまでに１秒間の空白がある。
これは、誤検知を回避するための、ウーバーによる仕様で、
この間にシステムが危険が誤検知ではないかを検証した上で
回避ルートを算定する、もしくは同乗する人間のドライバーが
自動運転から手動運転への切り替えを行う、という想定で設定
されていた時間だという。
だが、ドライバーのバスケス氏は、この時点でもハンドル操作は
していなかった。
報告書は、システムに障害は認められなかった、としている。
車内に取り付けられたカメラは、衝突までのバスケス氏の様子も
撮影していた。
車内設置のカメラは、バスケス氏がしばしば運転席の下の方に
視線をやっている姿を捉えていた。
報告書は、ネット動画配信サービスの 「 Hulu （フールー）」 から
入手したバスケス氏の利用データを調べると、同氏がこの夜、
午後９時16分から事故発生の１分後、午後９時59分までの間、
動画の視聴を続けていたことが明らかになっている。
安全確保のためのドライバーは、よそ見どころか、ウーバー車の
運転席で 43分間 「 Hulu 」 の視聴をしていたのだ。
● システム改修と実験走行再開
ウーバーは2016年9月から東部のペンシルベニア州ピッツバーグ
で自動運転車の実験走行を開始。
事故の１年前、2017年2月から、南西部アリゾナ州のテンピにも、
実験走行の拠点を拡大していた。
同市では300人にのぼるテストドライバーによって、実験走行を
展開していた。
ウーバーは死亡事故を受けて、各地の自動運転の走行実験を
停止し、アリゾナでのプロジェクトは閉鎖した。
だが、テンピ市に隣接する同州チャンドラー市では、この死亡
事故も一つのきっかけとなり、やはり実験走行が行われていた
グーグル系列のウェイモの自動運転車に、住民による妨害や
攻撃が相次ぐという騒動になっていた。
ただ、ウーバーによる自動運転車の実験走行は2018年12月に
ピッツバーグで再開。
死亡事故で判明したシステムの問題点についても、歩行者検知
のシステムを追加するなど、修正を行った、という。
だが、人を人として認識できないAIによって、人の命が奪われた、
という事実は残る。
素朴な感想
路上の歩行者は歩道にいるもの ― そんな想定でウーバーの
AI車のシステムは開発されていたのだ、という。
ということは、夜中、酔っ払って車道に寝転がっている泥酔者も、
車道に迷い出た認知症の人も認識しないということになる？。
信号機のないただラインだけ引かれている横断歩道とかも認識
しないのかな。
なら、「 前方に認識できない物体あり、目視で確認してください 」
と、分かった時点でAI知能に大騒ぎで言わせるようにしてほしい。
それより、テストドライバーが任務中に４０分以上も、Huluに夢中
で前を見ていなかったことが一番こわい。
仕事していないやん。
普通に前を見ていれば死亡事故は起こらなかった。
ひと昔前までは、みんなとりあえず前を見て運転していたのに。
