思考実験はもはや机上の空論ではない。いま最も生々しい現実としてこの問題に直面しているのが、自動運転AI開発の現場だ。
走行中の自動運転車がブレーキ不能に陥った瞬間を想像してほしい。前方の横断歩道には5人の歩行者がいる。ハンドルを左に切れば壁に激突して乗員1人が命を落とす。右に切れば別の歩行者1人を撥ねてしまう。このプログラムコードをどう記述すべきか。世界中の自動車メーカーやエンジニア、規制当局が頭を抱えている。
アンケート調査を行うと、大多数の市民は「被害を最小限に抑えるよう、全体の犠牲者数を減らすアルゴリズムにすべきだ」と回答する。つまり、社会全体としては合理的・実利的な計算を支持するわけだ。しかし、「では、乗員であるあなた自身を犠牲にする設定の車を購入しますか？」と尋ねられると、途端に財布の紐を固く閉ざしてしまう。現実のテクノロジー開発は、個人の自己防衛本能と社会全体の利益最大化という、逃れられない対立の最前線に立たされている。
