自動駕駛汽車應該優先保護乘客嗎？
Daniel  2018-11-30

1.今日導讀

      “電車問題”是一個著名的思想實驗。問題的大致內容是：一輛剎車失靈的有軌電車即將撞死鐵軌上的五個人，如果按下按鈕讓列車開進備用軌道，則只會撞死一個人，做出何種選擇才算是正確的？當然，大多數人可以選擇迴避這個問題，畢竟在現實中幾乎不會遇到這樣的情況。但是，無人駕駛汽車的生產公司可就不得不“培訓”無人車，讓它們“懂得”一些道德準則了，《經濟學人》對這件事進行了報道，我們一起來了解一下。

2.帶著問題聽講解

• Q1: “preference”是什麼意思？
• Q2: 人們最明顯的傾向是優先救哪幾類人？
• Q3: 罪犯的優先順序如何？

3.新聞正文（中英文對照）

How people think that self-driving cars should behave in an accident?
自動駕駛汽車在事故中應該保護誰？

In a paper just published in Nature, a team of psychologists and computer scientists describe a different approach. They created the “Moral Machine”, a website which presents visitors with a series of choices about whom to save and whom to kill.

在最近發表於《自然》雜誌上的一篇論文中，一支由心理學家和電腦科學家組成的團隊描述了另一種方法。他們創造了“道德機器”網站。這個網站會給訪客展示一系列的選擇，從而決定該救誰，該殺誰。

The strongest preferences, expressed by respondents from all over the world, were for saving human lives over animal ones, preferring to save many rather than few and prioritising children over the old. There were weaker preferences for saving women over men, pedestrians over passengers in the car and for taking action rather than doing nothing. Criminals were seen as literally subhuman—ranking below dogs in the public’s priority list, but above cats. It is easy to imagine the utilitarian argument for preserving the lives of doctors over others. Humanity’s (weak) preference for saving athletes seems less intuitive.

全世界的答卷人展現出的最明顯的傾向是，優先救人類而不是動物的性命，優先救多數而不是少數，優先救孩子而不是老人。以下幾種傾向則沒有那麼明顯：救女性而非男性，行人而非車裡的乘客，採取行動而非聽其自然。罪犯真正意義上地被視為低人一等，在公眾的優先順序名單上排序低於狗，但是高於貓。優先救醫生而非其他人的性命，這背後功利主義的考量並不難想象。但人們（較弱的）優先救運動員的傾向，看起來就沒那麼容易理解了。

Many people, says Dr Rahwan, a computer scientist at MIT and one of the paper’s authors, dismiss the trolley problem as a piece of pointless hypothesising that is vanishingly unlikely to arise in real life. He is unconvinced. The specific situations posed by the website may hardly ever occur, he says. But all sorts of choices made by the firms producing self-driving cars will affect who lives and who dies in indirect, statistical ways. He gives the example of overtaking cyclists: “If you stay relatively near to the cycle lane, you’re increasing the chance of hitting a cyclist, but reducing the chance of hitting another car in the next lane over,” he says. “Repeat that over hundreds of millions of trips, and you’re going to see a skew in the [accident] statistics.”

拉萬博士是麻省理工的電腦科學家，也是這篇論文的作者之一，他說許多人不再思考電車問題，將它視為一個沒有意義的假說，認為它幾乎不可能在現實中出現。拉萬並沒有被這種看法說服。他說，網站上給出的具體場景可能幾乎不會出現，但是生產自動駕駛汽車的公司做的各種各樣的抉擇會影響到孰生孰死，這種影響是間接的，統計學層面的。他拿趕超騎行者一事舉了例子：“如果你相對離自行車道近一些，你就增加了撞到騎行者的機率，但是降低了和旁邊車道的另一輛汽車相撞的機率。”他說，“在上億次旅行中重複這一情況，你就發現事故統計資料的偏態。”

—————  文章來源 / 經濟學人

4.重點詞彙

1.moral/ˈmɔːrəl/ adj. 道德的 n. 道德
e.g. a moral judgement
      moral codes

2.preference/ˈprefrəns/ n. 偏愛；偏愛的事物；優先選擇權
e.g. a preference for seafood over steak
      choose to eat seafood in preference to steak

3.prefer to do rather than do 寧願做某事而不做另一件事
e.g. prefer to sleep rather than swim

4.prioritise A over B 優先考慮 A 而不是 B

5.pedestrian/pəˈdestriən/ n. 步行者，行人

6.literally/ˈlɪtərəli/ adv. 字面意義地；（誇張）簡直
e.g. His brain was literally turned off.
      I have made literally thousands of phone calls.

7.subhuman/ˌsʌbˈhjuːmən/ adj. 不齒於人類的；低於人類的
e.g. Parents regard all game junkies as subhuman.

8.utilitarian/ˌjuːtɪlɪˈteriən/ adj. 功利主義的

9.intuitive/ɪnˈtuːɪtɪv/ adj. 容易理解的

10.dismiss/dɪsˈmɪs/ v. 把…打發走；不再考慮

11.the trolley problem 電車問題

12.hypothesise/haɪˈpɑːθəsaɪz/ v. 假設，假定

13.vanishingly/ˈvænɪʃɪŋlɪ/ adv. 可以忽略地

14.skew/skjuː/ n. （統計）偏態，偏斜性

5.拓展內容

Moral Machine 官方網站：http://moralmachine.mit.edu/

有軌電車難題以及現實中的應對方法

      1967 年，菲力帕·芙特首次提出了“電車難題”。這個思想實驗，可以追溯到伯納德·威廉姆斯提出的槍決原住民問題：假設一位植物學家，有天到一個獨裁國家中游玩。當地獨裁者逮捕了 20 名無辜的印地安人，以涉嫌叛亂的罪名，將他們全部判處死刑。但是這個獨裁者提出一個建議：身為客人，如果這個植物學家親手槍決其中一個印地安人，其他 19 個人就可以因此被釋放。這個植物學家是否應該親自槍決一位，以拯救其餘 19 人，還是拒絕動手，坐視這 20 個人都被槍決？

      類似的思想實驗主要想探討功利主義和源自康德主義的道德義務論。功利主義認為，為追求對大多數人來說的最大效益，應該犧牲少數人來拯救多數人。康德主義認為，道德應該建立在必要的義務責任上。如果不可以殺人是一種道德義務，就不可以動手讓一個人犧牲，即使這個行為的後果是犧牲更多人。

      在現實中，遇到類似情況時，司機該做的不是轉向，而是剎車。如果剎車失靈是機器故障或維修員失誤，而不是司機疏於檢查，那對司機來講是不可抗力。司機盡力找方法剎車仍然沒能避免事故的話，司機可以主張自己沒有過失，從而避免刑事責任。但是如果司機主動轉向而撞死人，就要承擔事故產生的過失殺人罪的刑事責任。類似的狀況是恐怖分子的要脅。如果順從恐怖分子會死比較少的人，不順從會死比較多的人，通常政府不會計算哪一邊死的人少，而是拒絕談判。