完全自動運転のタクシーが襲撃されボコボコにされていた。サンフランシスコでの出来事。
（日テレニュース）
アメリカのサンフランシスコで2月10日、完全自動運転のタクシーが群衆に襲撃され、炎上しました。
サンフランシスコの繁華街で自動運転のタクシーが群衆に取り囲まれ、スケートボードで窓が壊されそうになっています。
消防によりますと、襲撃を受けたのは自動運転タクシーを展開する「ウェイモ」が運行するロボットタクシーで、窓が破られた後、花火が投げ込まれ炎上したということです。当時、客は乗っておらず、けが人はいませんでした。
襲撃の理由は明らかになっていませんが、ロイター通信によると、サンフランシスコなどでは先週も自動運転のタクシーが自転車に乗った人と接触するなど自動運転に絡んだ事故が相次いでいて、反発も起きていたということです。警察が詳しい経緯を調べています。
（引用終わり）
治安悪化容認の街サンフランシスコだからどうせ暴徒は捕まっても即釈放だ、なんて女房と話しながらニュースを見ていたら、ちょっと違うようだ。むしろ暴徒側に正当な理由がありそうだ。
自動運転の技術が中途半端なくせに、完全自動運転のタクシーなんぞ走らせて、事故を起こしたり、雇用・失業問題を起こす中国系自動運転タクシーへの反発のようだ。
そもそも街を走らせて商売するなんて１０年いや100年早いんだ。それに民衆が反発するのも当然だ。ぜひ左翼検察官はこの暴徒を捕まえても即釈放してほしいものだ。
フジテレビ・イット！がおバカな男にコメントさせている。
「自動運転ラボ」を運営する下山哲平さん：
（自動運転車の実用化は）この5年くらいで急速に進み始めた状況ですね。（技術が）半分くらい完成したら、まずはサービスとして提供し始めようという、柔軟なアプローチをしているというのがアメリカ。自動運転なんかはまさにそう。
今回で言うと、その治安の悪いところに（自ら）入ってしまって、ターゲットになってしまった。
運転しているのが人間であれば、「今日はあの場所を通ったら危ない」と感じ、通行するのを避けるという選択肢が、自動運転車にはなかったとの指摘だ。
「技術が）半分くらい完成したら、まずはサービスとして提供し始めよう」というのをこの男は無責任にも「柔軟なアプローチ」と表現している。頭おかしいんじゃないのか。そういうのは「いい加減」とか「無責任」というんじゃないのか。
自動運転車が人を引いて殺したり、激突して怪我をさせたりしても、「まだ未完成な自動運転技術ですから、今後の進展に期待しましょう」なんていうのか。
先日のブログで「できる」というのと「使える」のとは違うんだ、ということを書いたが、この自動運転技術はまだ「できる」にすら到達していないのだ。使えないのは当たり前じゃないか。それを早く儲けたい、投下費用を回収したいから無理やり実用化？（実用化なんてしていない！）に走るのだ。
さて、哲学者岡本裕一朗氏の「人工知能に哲学を教えたら」（SB新書）を読んでいたら、面白い記述にぶつかった。
自動運転車が抱えた大問題
5人と1人、どちらを救う？--「トロッコ問題」
岡本氏は、自動運転車はテクノロジー面だけでなく、法的・社会的な整備が急務となっていると指摘し、更に欧米では「自動運転車の倫理的な問題」が活発に議論されているという。
「トロッコ問題」と呼ばれた倫理的な議論が自動運転車の場面で改めて浮上していると。
「トロッコ問題」については過去に、これを授業に使って失敗した教師を例に記事を書いたことがあるが、なかなか理屈だけではすんなりといかない難しい問題である。
岡本氏は次のように書く。まずはそもそも「トロッコ問題」とは何なのか。
トロッコ問題
(A) たまたま路面電車の傍を散歩していた人が、ブレーキのきかなくなった電車に遭遇した。その電車の前方には、5人の作業員がいてこのままでは轢かれてしまう。そのとき、散歩中の人の近くには進路を変えるスイッチがあり、それを引くと電車は右に曲がる。ところが、右の線路の先には1人の作業員がいるので、右に曲がると1人を轢いてしまう。
(B) 陸橋の上にいた人が、電車を見ていると、ブレーキがきかなくなっているのがわかった。その先には、5人の作業員がいて、このままでは彼らを轢いてしまう。そのとき、陸橋には太った人が傍にいて線路を見ている。その人を線路に突き落とせば、電車が止まりそうである。このとき、5人の作業員を救うために、1人の太った人を突き落としてもよいか?
ここで議論のポイントは、「1人を救うか5 人を救うか」ではありません。
「1人を救うか5人を救うか」という問い自体は変わらないにもかかわらず、AとBとで選ぶ答えが変わる、ところにあります。じっさいアンケートをしてみると、Aの場合には「1人を犠牲にする」と答えても、Bの場合には「1人を犠牲にしない」と答えるようです。
この対立はしばしば、「功利主義」と「義務論」の対立として説明されています。一方の功利主義は、何よりも結果を重視(帰結主義)して、全体の利益と損失とを計算し、その総量から行為を選択します。5人の命と1人の命を比較すれば、当然5人の命を優先することになります。もう一方の義務論では、結果がどうであれ、人を「殺す」という行為自体をすべきではない(義務に反する)と考えるのです。さらには、5人の人を救うために、その手段として1人の人を殺すことは許されない、と主張します。
乗員と通行人、救うべきはどっち?——「トンネル問題」
では、「トロッコ問題」のいったいどこが、問題なのでしょうか。
たとえば、功利主義的に考え、AもBも「5人の命と1人の命の比較」とみなせば、いずれも「5人の命」を優先するでしょう。そう考えると、陸橋の上の太った男を突き落とすことさえ選択すべきではないでしょうか。ところが、それは通常の倫理観と対立するのです。
それに対して、義務論的に考えると、陸橋の上の太った男だけでなく、スイッチの場合にも「一人の男」を優先しなくてはなりません。太った人をあえて突き落とすべきではないと同じように、スイッチをあえて引いて線路の一人を殺すべきではないわけです。大きな被害が出るとわかっていても、それに介入できないのです。
しかし、この選択肢がいつでも優先するわけではありません。
だからといって、Aの場合には功利主義的に考え、Bの場合には義務論的に考えるというように、ご都合主義的に立場を変えるのは問題の解決になりません。とすれば、すべての場合に妥当するような倫理はあるのか。これが「トロッコ問題」の基本的な問いです。
このように、「トロッコ問題」そのものに決定的な解決策が出てないうちに、それを「自動運転車」に応用したら、どうなってしまうでしょうか。ここまでの議論と対応させるため、「トンネル問題」と呼ばれている状況を考えてみましょう。
トンネル問題
あなたは自動運転車の乗員で、狭い山道をドライブし、トンネルの入り口にさしかかろうとしている。そのとき、子どもが突然道路に入り、クルマの前に飛び出してきた。
ブレーキをかけても、子どもへの衝突を回避する時間はなさそうだ。進路を変えると、今度はトンネルの壁に激突してしまう。子どもを轢けば子どもが死亡し、壁に激突すれば乗員のあなたが死んでしまう。このとき、自動運転車はどう判断すべきか。
オリジナルの問題設定では、子どもも乗員も1人となっていますが、「トロッコ問題」 との対応を考えて、飛び出してきた子どもは5人、クルマに乗っていた人はあな1人だとします。この場合、選択肢は基本的に二つです。
一つは、そのまま直進し、5人の子どもを轢いてしまうことです。これは結果として5 人が死亡し、1人が生存する可能性があります。二つめは、進路を変えてトンネルの壁に激突することです。このときは、自動運転車に乗っているあなた1人が死亡します。
さて、この状況で、問われるべきは次の二つの問いです。
(1) 自動運転車はどう反応すればいいのか。直進するか、進路を変えるか
(2) クルマがどう反応するかをいったい誰が決定すべきか
あるロボット工学のシンクタンクのアンケート調査に よれば、(1)の問いについては、36%の人々が壁に激突すべきだと考え、6%の人々が 子どもを轢いても仕方がない、と答えたそうです。他方、(2)の問いには、車の乗員が決定すべきだと考えた人が33%、議員が政策的に決定すべきだと考えた人が1%で、クルマメーカーが決定すべきだと考えたのは、わずか12%だったそうです(もっともこの数字は、乗員1人、子ども1人の場合ですが)。
以前、自動運転車の市場化が見え始めたころ、メルセデス・ベンツのエンジニアが、あ くまでも非公式的な形で、方針を示したことがあります。それによると、メーカーとしては、「乗員ファースト!」を宣言するとのこと。理由については、明らかでしょう。車を買う人にとっては、乗員第一に設計されていなければ、購入意欲が湧かないからです。子どもを救うために乗員が死のリスクにさらされる車を、はたして誰が買うでしょうか。
ただそれでも、「乗員ファースト」の方針を最後まで貫けるかどうか疑問が残ります。 というのも、車の乗員が1人で、飛び出してきた子どもが100人だったとき、おそらく「乗員ファースト」の原則に対しては、社会的な非難がまき起こる可能性があるからです。その点では、被害の規模も想定しなくてはなりません。簡単な線引きなどできず、倫理の問題となってくるのです。
（引用終わり）
このように見てくると結局は自動運転車が判断するのではなく、人間が異なる場面、異なる状況を想定して判断するしかない。今なら人間の判断をＡＩに置き換えると思いますが、人間が倫理的な判断に迷っているのに、ＡＩに倫理的な判断が出来るとでもいうのでしょうか。
あるいは、ＡＩを神に見立てて、倫理的な判断をＡＩに委ねる、ＡＩが判断したならもうそれに従うしかない、という人間をＡＩの奴隷にするかもしれません。これがＡＩの一番の問題なのだと言えます。
つまり、メルセデス・ベンツのエンジニアが言うように「乗員ファースト!」と判断したら、目の前に100人居ようがひき殺してしまえとＡＩが判断するかもしれません。
イスラエルのガザ地区パレスチナ住民虐殺はもしかするとＡＩの判断かもしれませんよね。
誰もが納得する倫理的な判断の回答などないんですから、恐らく自動運転車に載せる判断プログラムは、メーカーごとに幾種類も作られるんじゃないでしょうか。
そして、「自己犠牲ファースト」とか「乗員ファースト」とか「人種選別判断」、「国別判断」（〇〇国の人間なら突き進めとか）、「男女別判断」（ブス女なら轢き殺せとか）等々の様々なプログラムが売り出され、メーカーがセールスして売り込むんじゃないでしょうか。
それは自動運転車ディストピアですね。
先の「自動運転ラボ」を運営する下山哲平氏が言うように
「（技術が）半分くらい完成したら、まずはサービスとして提供し始めようという、柔軟なアプローチ」を自動運転車に許したらとんでもないことになるでしょう。
だから、結論は、自動運転車の公道走行は禁止、とすべきです。余計な開発はせずに、狭い工場内とかそれに類する場所での走行しか認めないことです。
もう一度いいます。
「できる」と「使える」は違う。ましてや自動運転車は「できる」技術にも達していないんだから、「使う」なんてありえないんだ、と。