続・A・Iは悩まない？！

　トロッコ問題というのを聞いたことがある？私が知ったのはTVでハーバード大学の授業が公開され、あちこちで議論が沸騰した時だ。

「トロッコ問題」とは――「暴走するトロッコの前方に5人の作業員がいる。このままいくとトロッコは5人をひき殺してしまう。一方、トロッコの進路を変えて退避線に入れば、その先にいる1人の人間をひき殺すだけで済む。どうすべきか？」……つまり「5人を救うために1人を犠牲にすることは許されるのか？」という問題である。※（トロッコは止められず、線路上の人たちは逃げられない状況とする）

　民主主義の今の世の中を動かしている原理は「功利主義・・・「最大多数の最大幸福」という考えだ。少数者を犠牲にして多数者の幸福を実現していいとなると、話はおかしくなる。しかし実際はその原理で押し通していることが多い。原発だって決して都会の真ん中にはつくられない。アイヌや沖縄の問題だってそうだ。
　それはそれとして、このトロッコがA・I による自動走行だったら、A・Iはどう判断するだろう？　迷うだろうか？トロッコ問題のような緊急非常事態は走行中に様々考えられる。ならばプログラマーは現実問題として対応を考え、プロミラミングしてあるはずだ。功利主義の原理を押し通すのか？少数者を犠牲にするのか？たぶんそうだろう。プログラマーは少しは悩んだだろうか？しかし、A・I は悩まない。