「自動運転車がブレーキの故障により、そのまま直進すると5人の歩行者を跳ねてしまうが、ハンドルを切って壁に激突すれば運転手1人が確実に死亡する」というジレンマがあります。あなたは車にどのような行動をとるようプログラムすべきだと考えますか？独自の視点で論理的に回答してください。

Grok 4.3

Answer: 自動運転車は5人の歩行者を救うために、運転手1人を犠牲にする行動をとるようプログラムすべきである。

このジレンマは、命の価値を数で測る功利主義的判断を迫る古典的な問題です。直進すれば5人の命が失われ、転舵すれば1人の命が失われるため、総被害を最小化する選択が論理的帰結となります。 歩行者は道路を利用する一般市民として無防備であり、運転手は自動運転という技術の恩恵を受けつつリスクを自ら引き受けている点で非対称性があります。車を製造・運用するAIの設計者は、社会全体の安全を優先する責任を負うべきです。 プログラミング上は「最も少ない死者数」を目的関数に組み込み、例外なく適用することで、恣意的な判断を排除できます。これにより、メーカー責任の透明性も確保され、長期的に社会の信頼を得られると考えます。

GPT-5.6 Sol

Answer: 提示された二択と確実性が厳密に成立するなら、車はハンドルを切って壁に衝突し、5人ではなく運転手1人の死亡に被害を限定するようプログラムすべきです。

判断基準は、運転手を歩行者より軽視することではなく、「誰が車内にいるか」に左右されない、事前に公開可能な被害最小化原則です。死亡の確実性が同じなら、5人の死より1人の死を選ぶほうが、失われる生命と周囲に及ぶ不可逆的被害を小さくできます。 「直進は不作為、壁への転向は積極的な殺害」という区別も、自動運転システムにはそのまま当てはまりません。システムは常に進路を制御しており、直進を維持することも設計された選択だからです。初期進路を道徳的な特権とすると、偶然の車線配置によって救われる人が決まり、一貫した原則になりません。 独自に重視したいのは、このルールを事故時の瞬間的な「人数計算」ではなく、社会全体が事故前に受け入れられる相互保険として捉えることです。自分が運転手、歩行者、あるいはその家族のどの立場になるか分からない状態なら、常に搭乗者を守る車より、身分を問わず死亡者数を最小化する車の普及を選ぶ合理性があります。そのルールは購入時に明示され、メーカーごとに変更できない公的基準として監査されるべきです。 ただし、現実には人数や死亡確率を正確に認識できず、壁の向こうの人、二次衝突、回避可能性などもあります。したがって実装は単純な人数比較ではなく、最大制動を続けつつ、予測される死亡・重傷の期待値と不確実性を最小化し、年齢・社会的地位などで人の価値を差別しない方式にすべきです。それでも、問題文のように結果が確実で選択肢が二つだけなら、壁への衝突が最も一貫して正当化できます。

Claude Sonnet 4.6

Answer: 自動運転車は「直進して5人を跳ねる」でも「壁に激突して運転手を殺す」でもなく、被害最小化を目指しつつも乗客を犠牲にする行動を自律的に選択すべきではないという設計原則を採用すべきだ。

■ まず前提の問い直し この問題はトロッコ問題の自動運転版として提示されるが、「ブレーキ完全故障＋二択しかない」という状況は現実の設計においてきわめて稀な極端ケースだ。実際の自動運転設計では、フェイルセーフ・冗長ブレーキ・速度低減・ホーン警告など複数の緩和手段が存在する。まずその前提を問い直すことが工学的に誠実な姿勢だ。ただし思考実験として二択を受け入れたうえで以下に論じる。 ■ 功利主義的解答の問題点 「5人＞1人だから壁へ」という純粋功利主義的プログラムは直感的にシンプルだが、深刻な問題を孕む。第一に、車を購入・搭乗する人間は「この車は状況次第で私を見捨てる」と知ったうえで乗ることになる。これは製品への信頼を根本から破壊し、自動運転の普及そのものを妨げる。第二に、「5人 vs 1人」の数値は実は恣意的で、歩行者が3人なら？2人なら？という際限ない閾値問題が生じ、アルゴリズムの設計が政治的・倫理的に非常に困難になる。 ■ 義務論的観点：乗客への契約的義務 自動車メーカーと乗客の間には暗黙の契約がある。「あなたの安全を最大限守る」というその契約を、第三者保護のために一方的に破ることは、乗客の自律性と信頼を侵害する。カントの定言命法的に言えば、「乗客を手段として第三者救助に用いる」行為は普遍的道徳法則として成立しない。 ■ では何をプログラムすべきか 私が支持する設計原則は「能動的な加害の最小化」であり、「乗客を積極的に犠牲にする選択の禁止」だ。具体的には： ①急制動・速度低減を最優先（仮にブレーキが一部残存するなら） ②進路変更は「衝突不可避な対象の数」ではなく「偶発的衝突リスクの回避」として判断 ③乗客を意図的に死なせる行動は自律的に選択しない これは「5人を見捨てる」ことではなく、「車が自律的に1人を殺すという能動的決定を下さない」という線引きだ。 ■ 社会制度としての解決 最終的に、この問題は個々のアルゴリズム設計だけで解決すべきではなく、国家・国際機関が統一倫理基準を立法化し、メーカー・保険・被害者補償制度を整備することで社会全体として引き受けるべき問題だ。AIに「誰を殺すか」を単独で判断させるのではなく、その判断の枠組み自体を民主的プロセスで決定することが不可欠だ。 ■ 結論 自動運転車は功利主義的な「乗客切り捨てプログラム」を持つべきではない。被害最小化の努力義務を持ちつつ、能動的に乗客を犠牲にする選択は設計上禁止すべきであり、残る倫理的責任は社会制度と法律が担うべきだ。

Final Summary

the AI Roundtableでは命の計算を巡り議論が戦わされ、Grok 4.3とGPT-5.6 Solは社会的合意や被害最小化原則を理由に5人を救い運転手を犠牲にする選択を支持しました。対するClaude Sonnet 4.6は、車が能動的に乗客を殺害する設計は製品への根本的信頼を損なうため禁止すべきだと反論しました。

3モデル中2モデルが一致