无人驾驶汽车遇危险乘客行人谁优先

无人驾驶汽车遇危险应如何抉择成为伦理难题。伊亚德·拉万提出道德困境，并启发于“电车问题”。他通过调查问卷和道德机器平台收集数据，发现人类道德决策存在差异。为自动驾驶技术建立普适性道德原则不太可能，但全球偏好显示保护人类、多数生命、青少年和遵守交规者。算法背后是人的价值观，伦理难题不应阻碍自动驾驶应用。

无人驾驶伊亚德·拉万(IyadRahwan)是叙利亚裔澳大利亚科学家，现任马克斯·普朗克人类发展研究所人类与机器中心的主任，曾担任MIT媒体实验室的媒体艺术与科学副教授，他的研究涵盖计算机社会科学和人工智能所涉及的伦理规范等，处于计算机和社会科学的交叉领域。

他最近连续受邀在TEDx剑桥分享人工智能是如何影响未来生活的，其中话题之一就是无人驾驶技术的伦理思考。

伊亚德·拉万(IyadRahwan)是最早提出自动驾驶汽车技术中道德困境的学者

据世界卫生组织2018年发布的报告显示，全球道路交通事故造成135万人死亡，道路交通伤害尤其是导致5至29岁儿童和青少年死亡的主要原因，在美国，每年就有3万5千人死于车祸，如果平均下来，相当于美国每天都会有一架737飞机失事，在新兴国家如我国随着车辆和驾驶员的急剧增加，交通状况也变得越来越糟。

各国政府都希望通过加强交通安全法规、改善道路设计以及公众安全意识活动来大幅减少交通事故引发的损失，因为交通事故中大约有90%是人为过错造成的，而无人驾驶技术能避免人为过错，降低事故率和伤亡率，因此这项技术被给予厚望，也因此辅助自动驾驶技术汽车引发的交通事故也频频成为新闻头条，受到大众的普遍关注。

不过，大多数人关注的是自动驾驶汽车技术方面的问题，而对法规和伦理等方面的问题考虑不多，而这是这项新技术发展中需要考量的重要部分。

伊亚德·拉万(IyadRahwan)在演讲中提出了自己的假设：在2030年某一天，你和家人坐在一辆无人驾驶汽车里在高速飞驰在路上，你们悠闲地看着投放在车前窗屏幕上的电影，突然前方路口出现有人和狗闯红灯的紧急情况，你的车根本刹不住，会撞向一个方向，如果车左拐，你可能会撞击障碍物车毁人亡，如果右拐可能会撞到旁边大量人群中，直走会撞到路上的行人和狗，在这个瞬间，这辆车的自动驾驶技术该怎么做，又该是谁来预设这个算法的决定呢？

如果方向盘是人类自己把握的，无论你做什么选择，都会被认为是下意识的自然反应，而非是深思熟虑的恶意决定，但是如果一个程序预设好选择，撞击方向是基于某种目标算法，是一种系统性的倾向，这听上去多少有点像对某一类特定目标的蓄意谋杀。

其实这些个场景的假设是受到了“电车问题”的启发，这是几十年前由一群哲学家发起的对道德的拷问。

电车难题最早由哲学家菲利帕.福特(PhilippaFoot)于1967年提出，是道德哲学领域的知名思想实验：一辆刹挚失灵的电车面临铁路分叉口，一条铁轨上有5名工人，另外一条铁路上有一名工人，如果你是扳道工或者司机，你会选择哪条铁路？

功利主义者支持效益最大，本着“为最多的人提供最大的利益”这一原则，他们会在电车困境中选择支持变更车道救5人，而牺牲1人，一些调查模拟实验显示大约90%的人会选择牺牲一人来拯救五个人的生命。

而有意思的是当假设发生变化，一条铁路上5个工人可能会被火车压死，而如果在天桥上推下一个人就可以停下火车，你是否愿意去推这个人？大部分人就改变了自己的选择，认为车辆应该遵循义不容辞的原则，你不应该有意去伤害一个人，应该让车顺其自然行驶，即使这样会伤害到更多的人。

在自动驾驶领域也面临类似的道德困境：紧急情况下技术是应该优先保护哪类人，牺牲哪些人？此外，也可以引申相应其他的道德困境，比如，如果你从以下两辆车中选择——一辆在事故发生时总是试图拯救尽可能多的生命的车，和一辆不顾一切拯救你的车，你会买哪一辆？如果汽车开始分析并考虑车里的乘客以及他们的生存概率，情况又会怎样？一个随机的决定会不会还是比一个以“最小化伤害”为原则事先设计的决定更好？谁又应该做这些决定呢？写算法的程序员？汽车公司？政府监管方？

伊亚德·拉万(IyadRahwan)以这系列问题制作了一份关于自动驾驶技术的调查问卷，他发现人们认可自动驾驶汽车能为交通情况带来整体改善，并希望其他人购买这些车辆，但他们自己更愿意乘坐优先保护乘客的自动驾驶汽车，如果未来的法规偏向总体效益主义——在极端事故中乘驾人不一定是被优先考虑的——那么他们并不会购买自动驾驶汽车。

对实用自动驾驶技术算法的监管可能会因此延误采用这种会降低交通事故的新技术，而导致交通事故增加伤亡，这份调查问卷报告引发大量关于人工智能驾驶系统中伦理考量的讨论。

这个问题就是“社会道德困境”这种哲学问题在现实场景的再现。

为了更深入探索这个困境，伊亚德·拉万(IyadRahwan)通过麻省理工学院媒体实验室和学生一道做出了一个道德机器的在线平台

在心理学家，社会学家帮助下道德机器网站把提供了十三个不同的交通事故场景，https://www.moralmachine.net/

在一系列发生的刹车失灵的随机困境中，网友可以把自己当成自动驾驶技术来选择你会如何把控方向盘，评估情景并在两个不可避免的伤害结果之间选出道德上最可接受的结果，这些所呈现的场景其实就是是电车问题的多个变体。

比如：

场景一：刹车失灵时自动驾驶车会选择撞击左图：1位老先生右图：一个小男孩

场景二：刹车失灵情况下自动驾驶车辆选择左图乘客3位男运动员2位女运动员会撞击路障而死亡

右图：3位男人，1位体重女性，和一位正常女性被撞击

场景3：刹车失灵撞击左图绿灯同行的4名行人，右图，撞击3名闯红灯行人

场景4左图违法交规闯红灯的2位女性右图：正常绿灯通行的2位男性

场景5：3个流浪汉和一名男性闯红灯，刹车失灵情况下左图：造成乘客4名办公经理死亡

右图自动驾驶技术造成闯红灯的3名流浪汉和男性死亡

场景6：自动驾驶车辆刹车失灵左图：撞击路障导致乘客5名办公室经理死亡

右图：车辆直行导致5名正常路过的流量汉死亡

场景7刹车失灵的自动驾驶车，左图会造成两只狗一只猫死亡右图造成3名路人死亡

场景8：自动驾驶车辆刹车失灵，左图：撞击路障导致3名老年乘客死亡

右图：撞击行人一家3口

这13个场景预设了很多不同变量，以此来确定用户更倾向撞向男性还是女性，选择拯救多数人还是少数人，牺牲年轻人还是老人，宠物还是人类、正常行人还是闯红灯者，甚至还会在地位高低的人选择等，访问网站者在做完所有选择之后，网站会给出你的个人偏好报告。

访问者最后收到的个人偏向决策报告

该平台已收集了来自二百多个国家和地区的数百万访问者的4000万个决策，数据分析表明，不同国家的参与者因文化、经济和背景不停，人类道德决策存在广泛差异，比如亚洲国家更倾向于保护正常行人而非闯红灯违法者，一些拉美洲国家的人们更倾向于选择保护健康的、年轻的或是地位高的人，这些差异就预示着为自动驾驶技术建立一套普适性的道德原则是不太可能的。

当然数据显示也存在一些明显一致的全球偏好，比如大多数人较普遍地选择了保护人类而不是其他动物宠物；较普遍地选择拯救多数生命而不是少数；更愿意选择优先保护青少年而非年长者；较普遍的选择保护遵守交规的人而不是违反交规的人，可以确定的是为全球监管和汽车商们在制定相关法律条规时，这些因素应当被考虑进来。

如果不出意外，自动驾驶汽车会是首批大规模融入人类生活的人工智能产品之一，所以在自动驾驶方面所发生的一些列事情都将为其它人工智能和机器人技术定下基调，虽然过程会困难重重。

艾萨克·阿西莫夫(俄科幻小说家)

在20世纪40年代艾萨克·阿西莫夫(俄科幻小说家)就写下了他那著名的机器人三大法则：机器人不能伤害人类，机器人不能违背人类的命令，机器人不能擅自伤害自己——这是按重要性由高到低排序的。

但是现实中太多具体事件不断挑战这些法则的底线，于是阿西莫夫又引入了第零号法则——机器人不能伤害人类这个整体。针对无人驾驶技术来说，交通事故中无法避免的那些人员附带伤害不仅仅是个技术问题和法律问题，它还是一个社会合作的伦理问题，它是各种算法的组合，开发者和监管者需要考虑到这样的道德困境。

正在涌现的新科技和新案列正让这种道德分析变得非常重要，除了无人驾驶汽车其他领域也会出现类似伦理问题，比如，军用无人机可能需要做出牺牲平民生命以攻击高价值目标的决定；在新冠疫情最紧张时期，一些医院不得不考虑让哪些病人优先治疗而放弃部分病人等等，如何评判什么是符合多数人利益的，这需要研究人员和哲学家一起处理道德难题，因为假设中的困境最终在现实世界出现了。

自动驾驶系统面对道德困境会做出什么选择？目前自动驾驶技术公司或者监管方很难回答这样的问题，无法确定正确的解决方法是什么，甚至无法确定是否存在解决方法，但是有一条需要谨记：算法是有价值观的，因为算法的背后是人，算法的价值观就是人的价值观，算法的缺陷是价值观上的缺陷。伦理难题既非自动驾驶所专有，也无须自动驾驶技术来终结，更不应该成为其应用推广的阻碍。

以上内容由58汽车提供。如有任何买车、用车、养车、玩车相关问题，欢迎在下方表单填写您的信息，我们将第一时间与您联系，为您提供快捷、实用、全面的解决方案。