AI車、初の歩行者死亡事故が起きた理由

 

歩行者をはねたAIは、最後までそれが 「 人間 」 だと

認識できなかった――。

 

米国家運輸安全委員会(NTSB)は、2018年3月に米アリゾナ州

フェニックス郊外で起きたウーバー(Uber)の自動運転車による

歩行者死亡事故に関する報告書を公表した

米国内ではこのほかに、テスラの自動運転車による2件の死亡

事故が明らかになっているが、いずれも犠牲となったのは運転

していたドライバー。

自動運転車による死亡事故で歩行者が犠牲になったのは、

この件が初めてだった。

 

440ページにのぼる報告書では、ウーバー車のAIは車道に

歩行者がいることをそもそも想定していなかったため、最後まで

「 歩行者 」 とは認識できていなかったことが、明らかにされた。

また、急ブレーキも作動しないなど、様々なシステムの欠陥の

連鎖があったことが指摘されている。

車道を横断する歩行者は想定外――自動運転車の安全性を

めぐる議論は、そんなところから積み重ねる必要があるようだ。

    「AIウーバー車 無料」の画像検索結果

 

440ページの報告書

事故が起きたのは、2018年3月18日、日曜日の夜。

アリゾナ州の州都フェニックスから自動車で20分ほどの郊外、

テンピ市。

この夜9時58分、49歳のエレイン・ヘルツバーグ氏は自転車を

押しながら、4車線のノース・ミルアベニューを歩いて渡ろうと

していた。

横断歩道のある交差点から100メートルほど手前の路上。

通りを渡り終わる前、ヘルツバーグ氏は右から来たウーバー

自動運転車にはねられる。

 

自動運転車は2017年型のボルボXC90をウーバーが改造した

もので、一帯で試験走行中だった。

ヘルツバーグ氏は搬送先の病院で死亡が確認される。

ウーバー車の運転席にいたテストドライバーである、44歳の

ラファエラ・バスケス氏にけがはなかった。

 

   「AI車 無料」の画像検索結果

 

今回公開された報告書によれば、ウーバー車のAIシステムが

ヘルツバーグ氏を捉えるのが、衝突の 5.6秒前。

時速 44マイル( 約71キロ )で、ヘルツバーグ氏との距離は

110メートルほどある。

この時はヘルツバーグ氏を 「 自動車 」と 認識している。

衝突の 5.2秒前に、今度はヘルツバーグ氏を分類不明の

「 その他 」 と認識。

その後、衝突の2.7秒前にかけて、「 自動車 」 と 「 その他 」

の間を、AIの分類が行ったり来たりする。

衝突2.6秒前。

AIは、ヘルツバーグ氏を初めて 「 自転車 」 と認識する。

だが、ヘルツバーグ氏を 「 静止 」 状態と認識しウーバー車の

進行方向には向かっていない、と判定している。

その距離はすでに 50メートルほど。

衝突 1.2秒前、ヘルツバーグ氏を 「 自転車 」 と認識した上で、

ウーバー車と衝突することを初めて認識。

危険を感知し、作動制御のシステムが始動する。

その1秒後、衝突 0.2秒前になって減速が始まると同時に、

ドライバーのバスケス氏に警報で危険を知らせる。

すでにヘルツバーグ氏との距離は 4メートルほど。

バスケス氏がハンドルを手にして自動運転を終了させたのが

衝突の 0.02秒前。

ウーバー車はヘルツバーグ氏に時速39マイル( 約63キロ )で

衝突。

バスケス氏がブレーキを踏んだのは、衝突から 0.7秒後だった。

 

   「AIウーバー車 無料」の画像検索結果

 

ネット動画を視聴する

ウーバー車は最後までヘルツバーグ氏を 「 人間 ( 歩行者 ) 」

とは認識できなかった。

これについて、報告書はこう述べている。

システムのデザインが車道にいる歩行者を想定していなかった

ためだ。

路上の歩行者は歩道にいるもの ― そんな想定でウーバーの

AI車のシステムは開発されていたのだ、という。

しかも、「 自動車 」 「 その他  」 「 自転車 」 と分類が頻繁に

揺らぎ、そのたびに別々の 「 静止している 」 対象と捉えた為、

ヘルツバーグ氏が車道を横切り、ウーバー車の進行方向に

向かって ” 移動 ” していることが認識できなかったという。

また衝突直前、ウーバー車が危険を感知するが、減速を開始し、

警報を鳴らすまでに1秒間の空白がある。

これは、誤検知を回避するための、ウーバーによる仕様で、

この間にシステムが危険が誤検知ではないかを検証した上で

回避ルートを算定する、もしくは同乗する人間のドライバーが

自動運転から手動運転への切り替えを行う、という想定で設定

されていた時間だという。

だが、ドライバーのバスケス氏は、この時点でもハンドル操作は

していなかった。

 

報告書は、システムに障害は認められなかった、としている。

車内に取り付けられたカメラは、衝突までのバスケス氏の様子も

撮影していた。

車内設置のカメラは、バスケス氏がしばしば運転席の下の方に

視線をやっている姿を捉えていた。

報告書は、ネット動画配信サービスの 「 Hulu (フールー)」 から

入手したバスケス氏の利用データを調べると、同氏がこの夜、

午後9時16分から事故発生の1分後、午後9時59分までの間、

動画の視聴を続けていたことが明らかになっている。

安全確保のためのドライバーは、よそ見どころか、ウーバー車の

運転席で 43分間 「 Hulu 」 の視聴をしていたのだ。

 

システム改修と実験走行再開

ウーバーは2016年9月から東部のペンシルベニア州ピッツバーグ

で自動運転車の実験走行を開始。

事故の1年前、2017年2月から、南西部アリゾナ州のテンピにも、

実験走行の拠点を拡大していた。

同市では300人にのぼるテストドライバーによって、実験走行を

展開していた。

ウーバーは死亡事故を受けて、各地の自動運転の走行実験を

停止し、アリゾナでのプロジェクトは閉鎖した。

だが、テンピ市に隣接する同州チャンドラー市では、この死亡

事故も一つのきっかけとなり、やはり実験走行が行われていた

グーグル系列のウェイモの自動運転車に、住民による妨害や

攻撃が相次ぐという騒動になっていた。

 

ただ、ウーバーによる自動運転車の実験走行は2018年12月に

ピッツバーグで再開。

死亡事故で判明したシステムの問題点についても、歩行者検知

のシステムを追加するなど、修正を行った、という。

だが、人を人として認識できないAIによって、人の命が奪われた、

という事実は残る。

 

 

 

素朴な感想

路上の歩行者は歩道にいるもの ― そんな想定でウーバーの

AI車のシステムは開発されていたのだ、という。

ということは、夜中、酔っ払って車道に寝転がっている泥酔者も、

車道に迷い出た認知症の人も認識しないということになる?。

信号機のないただラインだけ引かれている横断歩道とかも認識

しないのかな。

なら、「 前方に認識できない物体あり、目視で確認してください 」

と、分かった時点でAI知能に大騒ぎで言わせるようにしてほしい。

 

それより、テストドライバーが任務中に40分以上も、Huluに夢中

で前を見ていなかったことが一番こわい。

仕事していないやん。

普通に前を見ていれば死亡事故は起こらなかった。

 

ひと昔前までは、みんなとりあえず前を見て運転していたのに。

 

 

 

にほんブログ村 その他日記ブログ 日々のできごとへ