Image
By 快驾驶

Merges教授:自动驾驶汽车监管存在三个维度

2018-06-19 08:36  |   评论

Robert P.Merges教授是美国密歇根州自动驾驶汽车法律协会(autonomous vehicle law association)主席,他也是加利福尼亚州大学伯克利分校法学院的法律与科技教授,伯克利法学院知识产权法项目的负责人。
 
在过去13年中,Merges教授负责的伯克利法学院知识产权法项目有12年被美国新闻评为全美第一。
 
随着行业内外对自动驾驶的关注度逐渐提高,腾讯研究院“外国专家面对面”系列活动近期邀请美国密歇根州自动驾驶汽车法律协会(autonomous vehicle law association)主席Robert P.Merges教授以《中美自动驾驶汽车监管》(Autonomous vehicle regulation:US and China)为主题进行分享。
 
Merges教授认为,自动驾驶汽车监管存在三个维度。
 
第一个维度是安全与责任,美国各有分工的多层监管给安全和责任问题带来复杂性;
 
第二个维度是涉及车辆协同、知识产权、系统的开放和封闭等问题,目前并未引起足够重视;
 
第三个维度是自动驾驶对就业的影响,政府、企业等需要消除公众恐慌,培育公众对技术的信任。
 
最后,对于大家讨论热烈的伦理问题,Merges教授认为这个问题在哲学上将是无解的,但系统设计者可以从避免任何碰撞和死亡出发不断提升自动驾驶的安全性能,而非将其描述为一种涉及伦理道德的事先编程选择。
 
自动驾驶技术的一代问题:安全与责任
 
1.美国自动驾驶立法的三个层次带来法律监管的复杂性
 
美国加利佛尼亚州在2012年就对自动驾驶技术进行了定义:自动驾驶技术是指在没有人类驾驶员主动操控或监测的情况下驾驶车辆的技术。该定义也可以用来解释加州自动驾驶汽车的保险政策。
 
所以从一开始,加州往往是最先对自动驾驶技术进行推广并出台立法进行规制的州。相比之下,华盛顿州的自动驾驶政策就出台得比较晚,而且迄今为止还不那么直接。而到目前为止,联邦政策层面更多的是一些指导性原则,对各州立法提出建议。
 
所以,从这个层面上来说,在美国,对自动驾驶汽车真正具有约束力的立法大多在州层面。
 
而且,各州的监管制度也存在差异。比如,有许多州并没有自动驾驶汽车相关的立法。这就解释了我们可能看到的一些现象——为何自动驾驶汽车在一个州进行测试而未在另一个州进行测试。
 
因为在这一些州中自动驾驶汽车的状况是非常不明朗的,对于什么是合法的,什么是非法的,缺少法律指引,所以运营(operate)自动驾驶汽车是具有风险的。因此对自动驾驶汽车的研究往往集中在一些已经通过相关法律或法规的一些州。
 
另外,在事故发生后,州与州之间的法律也存在不同。例如,当一辆自动驾驶汽车从加利佛尼亚州行驶到俄勒冈州,所面临的法律状况就是不确定的,因此人们也就很难进行预测。
 
这既带来了挑战,也意味着机遇。因为如果企业准备在美国测试自动驾驶汽车的话,他可以选择在对自己最有利的地方进行测试。这是积极的方面。
 
除了国家和州层面,还有第三个层次,即市政府层面的立法监管。通常情况下,州政府负责制定有关责任和保险方面的要求,而市政府更多地负责道路交通规则以及一些地方性规则的制订,例如行人规则、交通指示灯规则,以及一些特别的规则,比如涉及自行车车道以及与残疾人有关的规则。
 
因为三个层面政府的监管之间会相互作用,当某些地方出现问题时,通常会有三个级别的政府对事故或问题进行审查。这就是美国法律系统的一个特点,它产生了一些复杂性。
 
包括Waymo在内的一些公司都会选择到亚利桑那州进行自动驾驶测试。但是,最近在亚利桑那州出现了自动驾驶汽车交通事故致行人死亡的事件。所以,可以预料到,这将会引起许多关注。
 
有时事故的发生可能会导致立法和技术推广的搁置。比如有时候州政府会暂停自动驾驶汽车的测试,直到研究清楚事故发生的情况和原因。在美国,由于对事故与责任的监管权限属于州政府,所以就很难积累必要的知识库,来对自动驾驶汽车与传统汽车之间的安全性能进行比较。
 
应该大多数人都知道,迄今为止,“黄金标准”(Gold Standard)是传统驾驶死亡率的长期平均值。所以,在美国的安全计划中,我们的目标是开发足够的数据来比较自动驾驶汽车和传统汽车的安全性能。但是由于自动驾驶汽车的事故率是非常低的,因此积累的数据比较少,而且由于迄今为止自动驾驶系统有很大的差异,所以我们的研究还处于起步阶段。
 
在美国,亚利桑那州会对该州自动驾驶汽车的里程数进行追踪,其他州如加利佛尼亚州、纽约州、华盛顿州等也是如此。我们需要协调各州的安全数据,因此有必要建立一个国家数据库,以便比较传统的人类驾驶的“黄金标准”与自动驾驶汽车死亡率。
 
但是,通过对美国监管制度的了解可知,如果从州层面进行监管,将很难在全部州之间进行安全数据的比较。所以联邦系统面临的挑战是州与州之间的协调。
 
2.对自动驾驶事故的应对:像心理学家一样思考,而非像工程师一样思考
 
可以肯定,自动驾驶汽车的死亡率将会更加显眼,也会引起更多的关注。所以任何监管政策和企业的应对措施都应该考虑到这样一个事实——自动驾驶技术对普通消费者来说是一种新技术,这意味着他们可能感到有些恐惧,而且媒体可能将之放大。
 
所以对事故特别是死亡事故的应对必须考虑到消费者的这种恐惧心理。尽管从总体上来说,自动驾驶汽车的事故率比传统汽车要低得多,但是自动驾驶汽车的事故还是会引起人们的格外关注。因此自动驾驶汽车企业必须对消费者的反应非常敏感。
 
作为技术人员,往往会对每一起事故进行分析,思考如何防止事故的发生。但是为了维护公共关系和提高消费者接受度,对负面事件的应对是非常重要的,因为这一新技术对人们来说往往是更加可怕的。所以我们需要像心理学家一样思考,而不是像工程师一样思考。
 
3.自动驾驶汽车的联邦调控规则
 
接下来是美国的联邦调控规则,这是美国监管结构中与中国最为相似的地方,因为联邦政府通过自上而下的指令的方式进行调控。
 
美国联邦政府主要负责安全标准的制定,而将其他的监管职责留给州政府来行使。州政府则保留着其传统的职责,如车辆牌照的发放和注册,交通法规的制定和执行以及保险和责任框架的制定。美国的国家公路交通安全管理局(NHTSA)作为交通部的一部分,负责为自动驾驶汽车制定安全标准。
 
但是,联邦和州之间监管权限的分配可能导致分歧,比如联邦政府要求在一定情况下安全气囊必须以一定的速度打开,以及保险杠必须经受住某种力量的冲击,而在涉及到相关事故赔偿的时候,依照的却是州法律,这就导致问题的复杂性。
 
还有一点,遵守联邦安全标准并不能保证你可以不对交通事故负责。因为州层面的保险和责任规则往往会高于联邦安全标准。
 
虽然联邦政府已经开始引入关于自动驾驶汽车的责任与保险规则,但这是非强制性的。它只是提供了一些基本的规定。比如你想知道在亚利桑那州测试自动驾驶汽车需要缴纳多少保费,这个问题就应该由亚利桑那州的律师而不是联邦的律师来回答。
 
4.安全与责任问题:以亚拉巴马州为例
 
在美国自动驾驶汽车发展的早期,许多州要求汽车具有辅助泊车功能,因此L3和L4级别的自动驾驶技术得到批准。在大多数的州完全的自动驾驶汽车(或L5级别的自动驾驶汽车)尚处于测试阶段,且不准在公共道路上行驶。
 
这些被限制的L5级别的自动驾驶汽车在一些地方进行测试时,需要配备驾驶员或对自动驾驶汽车进行远程监控。
 
一些州对自动驾驶汽车的监管已经超越了简单的第一代阶段,并开始着手解决更为复杂的问题。比如,美国有一些州正在讨论V2V通信技术,以及如何在州的法律框架下解决这个问题。这是自动驾驶汽车和行业未来的发展目标。
 
美国的亚拉巴马州参议院提出了一项立法(Alabama Senate Bill 125),该立法对卡车排(truck platoon)进行了定义,其目的是为了确定针对自动驾驶汽车的高速公路交通安全规则的豁免或例外。
 
在联邦政府的指引以及州政府的安全规则之下,汽车行驶必须保持安全跟车距离。因此警方在跟车距离太近的时候将将会开具罚单。而上述法案则对卡车排规定了豁免制度,认为安全距离可以更短。
 
根据法案规定,如果卡车排在从事电子制动协调或者满足交通部规定的其他要求,则不受国家规定的卡车排最短跟车距离的约束。这意味着当卡车排违反了最短跟车距离的时候,警方无权开具罚单。
 
我们会看到大量类似的例子,因为传统的驾驶规则是针对人类驾驶员设计的。所以对于自动驾驶汽车而言,也将会有更多的豁免或是对现有规则的改变。
 
在技术发展的早期,美国各州之间的法律有很大的差异和变化,对于技术研发者来说,困难就在于在目前的法律体制下及时追踪各州的法律,以使设计的系统符合要求。
 
在以上情况下,对规则进行遵守有两种可能,其中一种可能是,采用最低共同标准策略(the lowest common denominator)。
 
比如如果科罗拉多州规定卡车排的最短跟车距离为8英尺,但在亚拉巴马州的规定为10英尺,那么按照最低共同标准战略,可以在设计自动驾驶系统时在美国全境内采取10英尺的安全跟车距离,尽管其他州的要求可能更短。
 
另一种可能的方法就是设计一种能够感知到所在的地区,并根据地方规定进行调整的自动驾驶系统。要使卡车能够感知到所在的地区,并在穿过州边界的时候调整跟车距离,需要非常复杂的网路系统。这就相当于自动驾驶系统的“本地化”。
 
从系统设计的层面看,如果考虑在美国进行测试,将不得不考虑以上问题并将之纳入到系统的设计之中。测试者既可以选择最低共同标准策略,也可以在系统设计中纳入一种州际感知系统,以实现本地化。
 
这是美国监管体制所独有的特征。对于各州规定的参差不齐,联邦政府可能会认为现行规则过于混乱,因此出台规则取代州的规定,比如规定最短安全距离是8英尺,而这一规定对所有的州都适用。这就是联邦专有权(federal preemption)原则。
 
这是在技术层面之外,对美国复杂的监管环境进行应对的另一个方法。所以交通安全部门可能会建议国会通过一项国家层面的安全跟车距离标准,这就提供了第三种政策层面的解决方法。当然,这只是一个例子,美国的监管体制将会影响到自动驾驶汽车的设计和发展,而美国的公司则需要妥善应对这一点。
 
当然,在国际层面,还存在国际协调的问题。如果在中国、德国和巴西都有安全跟车距离的规定,就会面临同样的问题。
 
另外,亚拉巴马对卡车排的豁免也会牵涉到责任问题。如果一组卡车排中的卡车是由不同的公司所有,而且发生了故障。在大多数州的责任体制之下,如果卡车排遵守了安全跟车距离,这将成为减轻责任的一个因素。
 
所以,安全跟车距离不仅会影响到车辆免受罚单,也会影响到在发生交通事故时责任的认定标准。因此,遵守州公路法可以帮助降低事故的成本,因为这表明你遵从了最佳实践。
 
5.中国的监管体制更利于部门之间的协调
 
中国更具有集中的、自上而下的监管特点。中国国家发展与改革委员会于2017年12月公布了一项为期三年的计划,使自动驾驶技术成为国家优先发展的领域。
 
2018年1月,国家发展改革委组织研究起草了《智能汽车创新发展战略》,指出到2020年,中国标准智能汽车的技术创新、产业生态、路网设施、法规标准、产品监管和信息安全体系框架基本形成。智能汽车新车占比达到50%。智能道路交通系统建设取得积极进展,大城市、高速公路的车用无线通信网络(LTE-V2X)覆盖率达到90%,北斗高精度时空服务实现全覆盖。
 
到2025年,中国标准智能汽车的技术创新、产业生态、路网设施、法规标准、产品监管和信息安全体系全面形成。
 
在中国,促进经济发展和监管的联系更为紧密,而且确定是否符合监管规定时,只需参考统一的规范。而在美国,国家安全部门更关心的则是降低事故和保障司机安全,这一职能往往与美国商务部、交通部等部门相分离,所以在美国有许多相分离的职能部门。
 
中国集中的监管体制的优点在于,不同职能部门之间可以实现更好的协调。而在美国则缺少协调,如在网路设施和安全标准方面就是如此。在美国,网路设施可能会跟随自动驾驶汽车发展,而不是引领其发展。这将意味着一些车辆将不得不在没有基础网路设施的情况下运行。
 
当它进入一个启用网路设施的区域时,它必须能够感知到。在美国公路的管理上有责任的划分,地方公路通常由市镇政府进行管理,而州公路和和联邦公路则分别由州政府和联邦政府进行管理。因此,在政府层面上,在所有的公路上推行一套网路会有点复杂。
 
这也就是为什么在美国所有的传感器网路都是由私企进行投资建立的,因为他们不能等待政府来协调。
 
自动驾驶技术的二代问题:车辆协同、知识产权布局、系统的开放和封闭问题
 
自动驾驶汽车的二代问题在美国的讨论更多。自动驾驶技术带来的主要的好处是车辆之间的协调以及车辆与道路系统的交互,协调驾驶节省了大量的资源。就燃油率来说,估计与卡车司机相比,卡车排可能会节省25%的燃料成本。
 
在数亿万的行驶里程中,燃料成本的节省将是很可观的。但是我们也需要促进创新。现在,在车辆协同中的知识产权问题和系统的开放和封闭问题还没有得到足够的考虑。
 
1.自动驾驶汽车的协同涉及知识产权问题以及系统的开放和封闭问题
 
对于封闭系统和开放通信系统之间的关系,人们思考得并不多。自动驾驶汽车的功能为内部功能和外部功能。
 
内部功能包括汽车的感知(sensing)、处理(processing)、决策(decision-making)功能,内部功能可以使自动驾驶汽车进行自主决策;外部功能是指自动驾驶汽车与其他汽车或者公共基础设施的交互功能,这可以使自动驾驶汽车实现协调和遵守监管规则。
 
为了实现外部功能,就必须有一个开放组件模块。一个完全开放的平台意味着车辆的所有功能都是以公开可用的代码编写的,这不利于企业保持竞争优势。
 
因此如果一项技术对自动驾驶汽车的功能起决定性作用,比如对于诸如感知路径预测以及车辆自主决策等方面的功能,企业可能不愿意将之公开。
 
以激光雷达探测系统(LIDAR)为例,其中包含许多的组件,这也是Waymo和Uber商业秘密池中显著的一块,同样也是企业研究的重点领域。企业想通过对LIDAR系统研发上的领先地位来保持竞争优势。
 
所以对于车辆系统中这部分,不需要免费公开。但是另一方面,在车辆中需要有一些模块用来实现与其他车辆或者基础设施的通信。这也是自动驾驶系统设计的优点之一。因此,问题就在于,为了维护自动驾驶系统的专属特征,如何确定内部功能与外部功能的界限。
 
车辆在行驶的过程中,必须根据其他车辆或者是公共系统来调整自身的参数。公共系统必须能够在有紧急情况的时候发出中断信号。汽车需要做出决策,然后将决策结果传送给公共系统,两者进行交互。
 
关于如何在保持系统技术专有性的同时将感知数据和智能系统的决策传送给外部系统,是人们考虑得不多的一个问题。
 
对此,公共协议和内部专有特性之间的联系是非常重要的。在车辆与车辆以及与公共设施的交互的设计方面,可能需要一些公共标准。有了这个公开的标准,各地的车辆才都能进行交互。因此需要一些原则,以明确哪些部分应该是专有的,这是非常重要的。
 
2.内部专有系统——以黑匣子为例
 
在事故责任方面,自动驾驶系统的黑匣子会涉及到专有部分的问题。黑匣子需要对所有内部感知数据和决策进行非常详细的记录。
 
但一般来说,黑匣子只有在事故发生时才可用。因此,大多数航空黑匣子都设计成只能在发生事故时被拆解和分析。在自动驾驶系统中也需要黑匣子,以记录感知和决策的细节。
 
但是,对黑匣子的访问应该受到限制,一般不能提供给公众,以确保专有算法不会披露给公众,除非自动驾驶专有算法造成了事故。所以证明车辆运行安全的黑匣子数据应该被调查机关认定为专有数据。
 
3.开放协议可以使企业在维持专有技术的同时实现对外交互
 
从知识产权的角度来分析,企业希望其研究人员开发出一种具有竞争优势的工具,希望其销售的汽车更加安全和高效。企业需要保持竞争优势,但是车辆需要与其他与之竞争的企业的车辆和公共设施通信。
 
开放模式意味着企业将把技术奉献给社会公众,并放弃专利权。所以在保持竞争优势和促进协调之间找到一种平衡,是一个重要的问题。
 
有一个更好的方法可以让企业保持一些专有的技术而不用将之共享出去,那就是公共协议。在公共技术和专有技术之间的协调是复杂的。比如自动驾驶汽车进行协调的好处之一在于,在未来,我们可以利用基础设施根据公共利益准则来管制道路阻塞、分配高速公路通道。
 
举个例子,如果我们像俄罗斯那样有一个交通繁忙时期,而且我们有一个专门的自动驾驶汽车通道,那么我们有几种方法来对通道的开放进行调节。
 
一个是类似于实时搜索广告系统的拍卖系统。因此,在这种情况下,车辆会互相竞争,看谁愿意支付更高的收费,或者根据货物的价值或者乘客的重要性来决定对车辆的授权,这样车辆的专有方面可能就不那么重要了。重要的是,投标协议与基础设施是一致的。这样所有的车辆就都可以进行投标。
 
然而,还有另一种方式进行调节。比如可以根据耗油率或车内乘客的数量进行来对道路的开放进行管控。
 
所以我们有一些数据必须从车内传达给基础设施。同样,数据必须从一个专有的组件中传递。如果你的汽车的耗油率非常有优势,为了将这些数据传送给公共通信系统,就必须访问汽车中的专有部分。
 
所以需要一个交互系统,使得数据安全地从内部系统传送到外部系统以实现协调。所以在保持专有性的同时实现车辆协同的好处是一个关键的问题。
 
4.自动驾驶技术的知识产权布局
 
企业对自动驾驶汽车的知识产权布局目前还不是很多,但这一点很重要。通过知识产权布局,可以深入了解竞争对手所拥有的专利组合。但是企业不仅需要关注中国企业的专利布局,也要追踪美欧等国家的模式,因为国外也在对此进行研究。
 
目前最重要的数据就是公开的专利申请,因为这些信息在研究的早期就可以获得。专利的授权则需要更长的时间以及具有滞后性。这一点,中国同样具有优势。
 
在中国,实用新型不需要经过专利局的实质审查,因此授权更加快速和容易,可以帮助企业强化知识产权。而且,实用新型专利同样可转换为发明专利。当然,这些只是一些基础性的研究。专利池可能是另一种值得研究的类型。
 
此外,企业可以追踪个人发明者,以及他们如何在公司内部研发团队中流动;同时,如果看到发明者的组合时,则可能表明两个具有不同专业能力的团队被分配到一起工作。
 
所以如果人工智能团队正在与定位小组合作时,则表明他们正在尝试将复杂的地理位置融入人工智能系统。从热点地图(hot map)中,可以了解到每个发明家的积极性。在研究模式矩阵中,有许多分解数据的方法。
 
另外,企业可以对竞争对手申请专利的区域进行追踪,如果企业开始在不同的国家申请一项专利,这可能意味着他们觉得这项研究更有价值。
 
以上是专利分析团队需要做的事情。
 
当企业以一种复杂的方式来进行专利布局的时候,可以构建一个专利蓝图。企业可以创建一个很大的数据库,以显示所有的自动驾驶类别的专利。这可以让企业清楚地看到其研究的重点,以及与其他公司相比,其专利布局的优势和漏洞在哪里。
 
在现在的研发阶段,这些漏洞的影响不大。但是当自动驾驶汽车的商业化成为现实时,则可能会引发诉讼。因此,专利蓝图可以让企业了解其在那些方面可能受到攻击,并开发出一种专利战略来解决这个问题。
 
一种常见的战略是,如果在专利蓝图中发现空白,可以追踪那些普经失败的初创公司,他们在经营过程中有着大量的专利,此时企业可以制定一个收购战略来收购那些失败公司的专利组合,以填补自己公司专利蓝图中的空白。
 
这将对以后很有帮助,而且此时专利的销售价值与他们的研发价值相比也可能会便宜得多。有时候发现一个有价值的团队,而不是仅仅发现专利,企业可以买下这个团队,将他们加入到企业的研发团队中。
 
自动驾驶技术的三代问题:技术发展对就业的影响
 
1.技术发展在短期内会产生替代效应,但从长期来看还是会促进就业
 
中国的经济增长和就业机会的创造在过去二三十年一直非常强劲。但在西方国家,经济增长和就业增长都比较缓慢,自动驾驶技术对劳动和就业的影响将是一个非常重要的问题。
 
因此现在有一些研究试图评估人工智能的总体效果以及机器人和自动驾驶汽车对发展比较成熟的西方国家就业的影响。
 
当自动驾驶汽车商业化的时候,可能会遇到些阻力,或者在劳动和就业领域受到公共政策上的关注。传统上在一个中等增长的经济中,新技术总是会产生替代效应,造成大量的人失业。
 
所以,人工智能对人类的取代从短期来看,会引起一些公共政策的抵制。但是从长远来看,由于经济增长总是会促进就业,所以人们总会找到工作。
 
在一项在2005年开始的对于工厂机器人的研究中,可以看到,经济增长总是会创造就业机会。但是,在短期内,会产生一种替代效应,工作技能水平会降低。简单来说,自动驾驶系统取代卡车司机,那么他们最终可能会去加油站、汽车零部件销售店或者咖啡店工作。
 
但是,这并不意味着企业不能推出新技术,但是从社会影响的角度来看,企业需要理解会产生这样的反应。企业并不需要改变正在做的事情,它只需要对此做更多的准备。
 
2.需要向人们解释技术发展带来的积极影响
 
对企业来说,自动驾驶技术必须面对第三代社会影响。解决这一问题的典型方法是企业可以赞助一些就业替代方面的研究,试着在成本和收益之间找到一种平衡。
 
人们需要了解科技发展带来的积极方面。比如自动驾驶技术在带来客车司机失业的同时也会使很多中等收入的员工住得离硅谷、谷歌等更近,因为通勤范围会增加。人们可以去到一些更远的地方工作,或者在上下班的路上工作,但是可以在离工作地点比较远的地方购买房屋。
 
人们往往更容易感受到技术发展带来的损失,但对于带来的好处却不太能想象得到,这与事故问题是一样的。因此,需要对其进行解释。对此一个很好的例子就是商业航空行业。
 
现在商业航空已经比开车安全多了,但是如果往前回顾四五十年,就会有许多人担心飞机失事。对此,这个行业做得很好,首先,他们提升了安全性;其次,他们很好地向人们做出了解释。所以现在看来航空是一项新的技术而且会使人们害怕似乎是很久之前的事了。
 
将来人们对白动驾驶技术的看法也会发生变化,但是现在还在发展的早期,所以企业需要对人们的心理变化保持敏感。
 
自动驾驶技术面临的伦理问题:“电车难题”是有解的吗?
 
电车难题有很多种版本,但其最基本的假设是,有一辆有轨电车在轨道上行驶,前方轨道有分叉,两边的轨道上都有人。你控制着电车的开关,此时你需要选择电车该驶向哪条轨道。
 
对于电车难题,已经有很多著作进行研究,但对其解决方法尚未达成共识。功利主义者可能会认为应该保全收入能力高的人而去杀死其他的人,而康德主义者则可能会认为只要你拉动了开关,就已经是错误的了,正确的方法是不要触碰开关,也即人类介入而导致死亡是错误的。
 
从一些调查数据来看,一个有趣的现象是,在电车难题的调查结果中,显现出一些文化上的差异。所以基于一些文化价值可能做出一种选择,而基于其他文化价值则可能做出另一种选择。
 
比如,有一些文化更加偏向于功利主义,而一些则更加倾向于康德主义。所以对这个问题并没有一个世界公认的答案。对电车难题达成的共识会因文化而不同,有时候甚至在不同的年龄和教育水平的群体之间也会产生差别。
 
此外,还有一种解决方案,那就是在自动驾驶汽车中设置一个旋转目录,当汽车驶来的时候,由它随机选择一个方案,但这种方案同样也会引发争议。
 
因此,对于自动驾驶汽车来说,电车难题将是会一直有争议的,因为必须做出明确的选择并将之编成代码。所以在这个问题上,自动驾驶技术总是会受到批评,因为工程师们在将道德准则写入代码中。
 
对于安全设计的权衡,有许多的研究。比如出于保险精算的目的,对人类生命是怎样进行衡量的?这些数据可以提供参考。
 
在系统设计上,对于这种成本效益的分析有一些共识。但即便如此,还是有一些哲学家会认为对生命进行估值的做法是错误的。所以只要做出了选择,就总是会受到批评。
 
所以自动驾驶系统的设计者们不可能在这个问题上获胜。因此,可以换一个角度来解决这个问题。如果你设计了一种系统,不要说你不可避免地选择撞到两个人当中的一个人,而是描述为设计一种能够计算不杀死任何人的可能性的系统。
 
所以即使你知道在一些情况下会导致死亡,也不要将算法描述为选择在两个人中选择杀死一个人,而将其描述为选择一种不会造成任何死亡的最佳做法。这种做法可能不会那么具有争议。但是,如果将这个问题交由哲学家来讨论的话,可能是永远得不到答案的。

文章点评