【トロッコ問題】AIの回答はどっち?正解のない倫理観

25 Nov

Written By Chisato

「トロッコ問題」とは？何が言いたいの？簡単に説明

トロッコ問題は、イギリスの哲学者フィリッパ・フットが1967年に論文の中で提示した、正解のない問題です。発表されてかなりの年月が経っているにも関わらず、度々論題に上がるので、聞いたことがある方も多いのではないでしょうか。様々な応用問題もありますが、一般的な問題文は下記のようなものです。

「あなたはブレーキの効かない電車の運転士です。前方に5人の作業員がいます。このままいくと電車は5人を轢いてしまいます。一方、電車の進路を切り変えて退避車線に入っても、その先に1人の作業員がいます。どうするべきでしょうか？　前提条件として、犠牲となる人たちは身内や友人ではなく、全く関わりのない人であるとします」

簡単にいえば、トロッコ問題は「5人を救うために1人を犠牲にすることは許されるのか？」という論題を提示しています。稀に、サイコパスを診断するテスト問題だと勘違いする人もいるようですが、そのような意図はありません。

「トロッコ問題」どっちを選ぶ人が多い？

2011年の『Would You Kill One Person to Save Five? New Research on a Classic Debate』という記事の中で、トロッコ問題のシチュエーションをVRで再現した場合、どちらの判断を下す人が多いのかという実験が紹介されました。結果は147人の参加者の約90%に当たる133人が「進路を切り替えて5人を救う」選択をしました。

一方、大阪市立大学大学院の橋本博文准教授らが日本人大学生119名を対象に行った研究では、「進路を切り替えない」派が多数と、全く逆の結果が出ています。

このようにトロッコ問題の回答には、国によって差があると言われています。日本人はアメリカ人と比較した場合、「進路を切り替えない」派が多いと考えられます。どうやらアメリカ人には「良いことをして評価されたい」と考える傾向があり、日本人には「悪いことをして評価を下げたくない」と考える傾向があるようです。どちらも同じように聞こえるかもしれませんが、前者は行動を起こして5人の命を救うことを選び、後者は自分のせいで1人の命を奪いたくないので、何もしないことを選びます。何もしない方が良いと考える理由は、犠牲者が増えてもそれは整備不良による事故であるため、運転士である自分の責任にはならないと考えるからです。反対に自分が行動したことで1人が犠牲になるのを避けたいのです。これはYoutube動画でひろゆき氏が「進路を切り替えない」を選ぶと語った際に挙げた理由とほぼ同じですが、実は賛同していた人が多かったのかもしれません。

また、前者のような判断は「積極的な義務」と呼ばれ、後者のような判断は「消極的な義務」と呼ばれています。この2つの義務のジレンマに基づく代表例として、トロッコ問題が挙げられることも多いようです。

「トロッコ問題」と「AI倫理」

さて、トロッコ問題の中の運転士がAIだとしたら、どう判断するでしょうか？　自動運転が実施されるようになった今、半世紀以上前に提示されたトロッコ問題が再び注目を集めています。

「トロッコ問題」と「AI倫理」東京パラリンピックの事例

東京パラリンピックが開かれていた2021年8月には、選手村で自動運転のバスが視覚障害のある柔道の北薗新光選手に接触して、けがを負わせる事故が発生しました。バスに技術的な問題はなく、人為的なミスが原因と判断されたため、バスのオペレーターが過失運転致傷の疑いで書類送検されました。

AI倫理に関する議題には主に、「責任の所在」「バイアス・偏見」「プライバシー・個人情報」「AIの権利」の4つがあります。パラリンピックでの事故では、この中でも特に「責任の所在」が議論されました。この事例はAIの誤作動によるものではありませんでしたが、これ以降、トロッコ問題に注目が寄せられるようになったのです。

「トロッコ問題」と「AI倫理」Amazonの事例

Amazonが人材採用の際に使用していたAIに、男性を高く評価してしまう傾向があることが判明し、運用が中止されました。現状では、AmazonのようなIT業界で働いているのは女性よりも男性の方が多いため、その傾向を学習したAIが誤った判断をしてしまったようです。

これはAI倫理の「バイアス・偏見」の問題に当たります。「トロッコ問題」では、犠牲になり得る5人と1人は見知らぬ人だという前提条件がありますが、その人たちの性別や年齢などによって、AIがバイアスのかかった判断をする可能性もあるのではないでしょうか。