时下，越来越多的厂商加入自动驾驶汽车研发行列，自动驾驶时代或离我们越来越近。可是，在基于人工智能设计自动驾驶决策系统初期，就已遇到类似于“电车难题”的伦理难题，依然还是一个难以逾越的障碍。
伦理难题
(相关资料图)
“电车难题”是一个出自于福特（Philippa Foot）所设想思想实验的道德两难困境，具体情节是：一辆制动刹车失灵的电车即将撞死前方轨道上的5个人，为救这5个人，可以扳动道岔让电车改道，但这又会撞死岔道上的1个人，这时应该如何选择？如果根据功利主义的最大幸福原则，或应选择扳动道岔舍一救五。那么，当场景变成在天桥上看到失控电车即将撞死轨道前方的5个人时，如果可以通过将身旁的胖子推下天桥阻停电车，同样做到舍一救五，是否还愿意这样做？由于大多数答题者这时都会改变主意，不再继续坚持功利主义的选择，加之学界为此持续了50余年的讨论也一直没有给出令人信服的答案，遂使该题成为一个难解之题。
人们普遍认为，“电车难题”的情形及其变形，也会出现在自动驾驶汽车上路之后，成为自动驾驶的“电车难题”。为此，种种可能的场景被设想出来，最终可归为两种典型情境。1.一辆自动驾驶汽车正在按交通规则正常行驶，忽然2个小孩跑到车道前方，此时汽车只有两个选择，该怎么决策？一是继续直行撞死这2个小孩，二是为避让小孩冲向人行道，撞死1个行人。这种情境可谓“他他困境”，其选择关乎的是不能兼顾不同的他人的安危。2.一辆自动驾驶汽车正常行驶到隧道入口时，忽然一小孩跑到车道前方，此时自动驾驶汽车只有两个选择，该怎么决策？一是继续直行撞死小孩，二是转向隧道某一侧的墙壁，导致车上人丧生。这种情境可谓“他我困境”，其选择关乎的是不能兼顾车上人和他人的安危。由于传统的“电车难题”迄今无解，而上述两种困境又被视为自动驾驶的“电车难题”，因此自动驾驶汽车的设计者也会陷入困顿之中。
预案分析
在难以为难题提供理论上的正确解答时，也许可以在实践层面采用变通的方法解决问题。自动驾驶的“电车难题”，体现的是不同道德原则的冲突。“他他困境”体现的是功利原则和道义原则的冲突，即功利论者会选择冲向人行道舍一救二，道义论者则会选择遵守不突然变道的交通规则而撞死乱穿马路的2个小孩。“他我困境”体现的则是自利原则和利他原则的冲突，即利己主义者会选择继续直行撞死小孩，利他主义者则会选择撞墙牺牲自己以保全小孩。
于是，有研究者提出，不妨设计依据不同道德原则做决策的自动驾驶系统，让用户按自身偏好自主选择，从而规避道德原则的冲突。但是，车上人有时不止车主一个，如果其中有与车主的道德原则偏好不同的人，不同道德原则的冲突就还是存在。此外，由于一个利己主义者既有可能是功利论者，也有可能是道义论者，而一个利他主义者也既有可能是功利论者，也有可能是道义论者，这也使该预案存在纰漏。所以，根据用户的道德倾向设计自动驾驶汽车的决策系统，仍无法规避道德两难困境。
另有人提出，这个问题可交给具有社会权威性的政府，由政府决定需要按照什么道德原则统一设计自动驾驶汽车的决策系统。可是，在学界还没研究出合理应对自动驾驶两难困境之方法的情况下，由政府出面决定又能如何？这不过是没有硬道理的随意决定。另一个弊端是，如果在此允许政府将道德原则法律化，即用立法硬性规定人们遵循何种道德原则，也就等于剥夺了人们基本的道德自由选择权。
应对之策
既然变通方法及其几种预案均不可行，而目前又无新的有效解决方法提出，那这是否意味着自动驾驶的“电车难题”和传统的“电车难题”一样，也是无解之题？并非如此。传统的“电车难题”中因为有刹车失灵的设定，只有两种选择。而自动驾驶的“电车难题”则没有刹车失灵的设定，因而实际上不是只有两个选项，而是还有一种让汽车紧急刹车降速的选择。基于这种选择会出现三种可能，一是没撞到突入车前的人，二是将他撞伤，三是还是撞死了他。这样降低了撞死此人的概率，同时也不必让车冲向人行道牺牲路人或撞上隧道墙壁牺牲车上人，在效果上明显优于前述的两种选择，即撞闯入者、撞行人或墙。并且，该选择还符合不要突然变向改道的交通规则，可以更好厘清其中的责任问题。
再从理论上看，这个选择既符合只付最小代价的功利原则，又符合不违反交通规则的道义原则，不会被偏爱其中任何一个道德原则的人所诟病。可能会被质疑的地方是，以上理由分析尤其是其中的责任分析，是以乘客优先的自利原则为依据的。然而，由于人的本性自利是客观事实而不是恶，又由于利他主义属于被提倡的高线道德而非底线道德，即便未响应也算正当，所以在此从自利原则出发并无不妥。而且，在现实社会中，又有谁会愿意购买不优先保障车上人安全的自动驾驶汽车？
既然面对自动驾驶伦理难题，紧急刹车的选项如此之好，那在技术上尽量提高自动驾驶系统及时发现突发事件的水平和车辆紧急刹车的效率，就是一种预防和避免自动驾驶的“电车难题”出现的有效举措。对此，要从两个方面入手，一是从技术上避免“电车难题”的出现，二是从决策系统上为未能避免的“电车难题”提供更优解。
在提供更优解方面，除了要有上述决策的设计外，还需补充两项基本内容。一是在有人突然窜到车的前方时，如果经计算即便紧急刹车也会撞上此人，那么，只要这时车辆变向改道不会伤及他人，也不会伤及车上人，就可以让自动驾驶系统这样决策，因为这没造成任何伤害，是最好结果。二是当有大型车辆，不管是载重车还是大客车，或因闯红灯或因失控突然出现在本车前方将与本车相撞，从而会导致本车车毁人亡之时，应使本车的决策系统能够选择变线自保，而不是紧急刹车，让车转向不会造成伤害或造成伤害最小的地方躲避被撞。如此设计自动驾驶汽车的决策系统，同样也是出于本车人优先的自利原则。这个决策一来可以保证本车安全，二来可更好厘清责任。
经过以上讨论可知，虽然传统的“电车难题”还没有解，但自动驾驶的“电车难题”其实与之不同，存在第三种选择，是可以有更优解的。只有当自动驾驶汽车在突发事件中也出现刹车失灵的情况时，才与传统的“电车难题”更为类似。所以，我们应事先为自动驾驶汽车增设更为有效且稳定性强的应急刹车装置，以及增强其他各类安全措施，在问题出现前“治未病”。
（作者单位：华中科技大学哲学学院）
