自动驾驶的伦理问题探讨

2021年4月6日 / 1次阅读

一年多前写的旧文，连同前面几篇，一同存放在博客网站上吧，在这里统一管理，也稍微省点心...

自动驾驶是当前很热门的一个领域，各大汽车主机厂都纷纷跟进，不想在这方面落后，纷纷推出自己的具有自动驾驶功能的车型。特斯拉的Model系列应该是目前最成功的一个案例，CEO马斯克本人非常受媒体瞩目，他的自动驾驶汽车为了做广告，还随着SpaceX的火箭，进入了太空。各国政府也都希望能够在新一轮的技术发展周期中取得领先，也纷纷出台各种鼓励自动驾驶技术发展的政策。

自动驾驶也是当前AI应用的一个很热门的领域。自动驾驶从字面上来理解，其实很简单，就是自动驾驶的汽车，不再需要人来驾驶了。人坐到车里，输入目的地，然后汽车由车载的AI系统控制，自动行驶前往目的地，期间车里的人可以休息，可以看书学习工作，可以上网视频等等，就是不用再开车。多么美好，多么令人向往......

在汽车出现之前，在马车的时代，也存在某种程度的“自动驾驶”。有一些训练有素的骏马，在主人闭着眼睛的情况下，也可以在熟悉的道路上飞驰。汽车出现的年代，开车与骑马（或乘坐马车）在当时的社会上，也必然是热议的话题，不过最终开车因为各种优势和便利，加上福特创新的流水线生产管理降低了汽车的购置成本，骑马以及乘坐马车这些事情，就渐渐成为了一种娱乐项目。

现在的情况与当年有些类似。人工驾驶汽车是现在想当然的事情，自动驾驶才刚刚出现，其技术还有待进一步完善和发展，但是相关的讨论已经开始。未来是否自动驾驶也会全面取代现在的人工驾驶，就像当年汽车取代了马车一样？也许答案并不那么简单。自动驾驶涉及很复杂的AI技术问题，而AI技术应用在自动驾驶领域，又涉及很多前所未有的伦理问题挑战。

为什么需要自动驾驶？

在展开讨论之前，也许你会问一个问题，我们为什么需要自动驾驶的汽车呢？任何技术的出现，背后都有需求在支撑，自动驾驶汽车的需求是什么呢？

其实，需求很简单。首先是希望出行更加安全，其次是提高人类的生活效率（我们可以在车上做更多的事情，而不是去花费时间精力去开车）。

纽约时报曾经有一组数据，说的是美国。2016年美国大约有40200人死于交通事故，比2015年增加了6%。每年因为交通事故造成的损失高达330亿美元。除了人身财产的损失，因为拥堵造成的时间浪费、社会事件也在逐年增加！有人说，每年交付的新车不是都做了大量的设备和技术升级吗？怎么事故率不降反升呢？是啊！前方碰撞警示系统、自动紧急制动系统、盲点检测警示系统、车道保持辅助系统、自适应巡航控制系统……安全驾驶辅助技术不断升级，却并没有很好地遏制住事故的发生！为什么呢？

有研究表明，真正造成交通事故率大幅提升的原因是：分心驾驶！这正是我们需要自动驾驶的主要原因！据世界卫生组织数据，驾驶中使用手机的事故机率是不看手机的4倍！驾驶中使用手机会影响司机的反应时间，也会影响汽车的车道保持和与前车的车距保持。

尽管有充分的证据表明，驾驶时司机的注意力是影响安全的重要因素，但还是很难阻挡微信、短信、电话等即时通信对司机的诱惑力！而司机分神的问题，自动驾驶汽车可以解决！

开车不需要司机，自然人们在车里就可以安心地做一些别的事情，比如刷手机。同时，交通事故率的降低，带来的另一个好处是城市的交通拥堵会得到缓解，减少人们出行所需要的时间花费，进一步提高生活效率。自动驾驶带来的未来生活画面，确实很美好！

从另一个角度来看，也不是完全因为需要而产生的自动驾驶，这个世界上有很多东西，是出现了之后，人类才意识到，并且逐渐接受的。经济学上也有这样的理论，叫做供给创造需求。

从最早的工业革命开始，人类社会在科技这条道路上已经飞奔了500多年，未见任何速度减缓的趋势，反而是越跑越快。科学技术的发展在数百年的时间轴上呈爆炸发展态势。在汽车领域，随着科技的发展，AI算法的逐渐成熟，自然而然就会有人给汽车装上“眼睛”，让它能看懂周围，再装上一个“大脑”，让其可以进行道路的分析计算，并且在此基础上，自动行驶到目的地。汽车现在已经慢慢的演变成一台带轮子的超级计算即。自动驾驶的出现，也是科技发展的自然结果。阻挡是徒劳的，只能与之拥抱。

交通事故的责任归属？

在自动驾驶的伦理讨论中，交通事故的责任归属这个问题，应该是大家都很容易就能够想到的一个很现实的问题，也是非常重要的基础问题。自动驾驶的汽车如果在行驶过程中发生交通事故，责任归属如何判定？

判给车里的人吗？车里的人没有开车，他们可能正在交流一些学术问题，或是在刷手机，事故发生还导致他们也受到了一些身体伤害。

判给车厂吗？自动驾驶系统由车厂提供，车辆的动作由这套系统控制，似乎应该让车厂负点责任。不过，车厂可不会轻易当这个冤大头，如果真的这样一刀切地判定，他们可能会暂缓或放弃自动驾驶技术的研发和应用，这也不是热衷发展科技的各国政府愿意看到的景象。

目前的现状是，各国政府依然在某种程度上坚持原有的法律框架，即让司机，或者说让坐在驾驶位置的那个人来承担应有的责任。这种坚持，我想有部分原因是因为自动驾驶技术还不够成熟和完善，另一部分原因恐怕政策制定者也是感觉到很为难。各大汽车主机厂虽然都在吹嘘自己的自动驾驶技术有多牛逼，但在真正要害的地方，很明智的表现为缩了回去，避免主动承担任何责任。

按照我国现行法律规定，车辆在行驶过程中，驾驶员必须将手放在方向盘上！2016年在北京，有一起这样的小事故，一位罗姓的特斯拉车主，在行驶过程中，与前方车辆发生了剐蹭，致使其侧镜损坏。由于当时车主开启了特斯拉的Autopilot模式（自动驾驶），因此双手并未放在方向盘上，由此导致了其承担事故的责任。车主对这样的责任认定当然不满意，但国家交通部对此事并未作出任何回应。而特斯拉方面强调，他们的Autopilot，只是自动辅助驾驶，即自动驾驶是一项辅助功能，并要求驾驶员始终双手握住方向盘，每一次Autopilot系统启动的时候，车辆都会提醒驾驶员，“请始终握住方向盘，准备随时接管”。

再来看2018年3月的一则新闻。日本计划让车主承担自动驾驶汽车发生的交通事故责任，像普通汽车一样，减轻汽车厂商对承担自动驾驶汽车交通事故责任的担忧，以加快自动驾驶汽车的商业化。这一政策是日本政府未来投资委员会公布的与自动驾驶汽车有关的方针的一部分。这一方针最早将于2019年提交日本国会讨论。与普通汽车一样，车主将对汽车处于自动驾驶模式时的交通事故担责，可以由政府强制购买的汽车险理赔。只有在车辆存在缺陷的情况下汽车厂商才需要担责。保险公司将开发针对自动驾驶汽车的新险种。为了有助于查清事故责任，自动驾驶汽车将要求安装相关设备，能记录位置，以及自动驾驶系统运行状态等信息。只要车主采取了恰当的安全措施——例如更新汽车各种系统，汽车遭到黑客攻击造成的损失，将按照汽车被盗窃的情况处理。

日本人想得还是挺周全的，这个政策让人感觉到明显地促进产业发展的意味，毕竟汽车工业是日本的一个大产业呀。创新点在于，虽然让驾驶员承担责任，但是理赔由强制保险承担，这样就大大减轻的使用自动驾驶的驾驶员的思想负担。不强制把责任推给汽车生产厂家，也接触了厂家大力发展自动驾驶产业的信息。同时，对于黑客入侵的情况，按照车辆被盗来处理，这个细节有点意思。因此，人们还是可以想往常一样使用车辆，出了事有保险，被黑就算被盗。在这种情况下，人们购买有自动驾驶功能的汽车，基本上就没有了后顾之忧，公司的新产品能销售出去，产业得到发展，一切都在良性循环中。

德国也在2018年5月份，发出来一份所谓的自动驾驶伦理道德标准，其中有一条是关于责任的：在任何驾驶情况下，责任方，无论驾驶者是人类还是自动驾驶系统，都必须遵守已经明确的道路法规。已明确的道路法规，当然还是驾驶者承担责任了，除非在未来道路法规做出调整。再看一条：虽然车辆在紧急情况下可能会自动做出一些反应，但人类应该在更多道德模棱两可的事件中重新获得车辆的控制权。还是想说，虽然现在有自动驾驶，但是最终的控制权还得在人类手上，因此人类应该来承担责任。

以上是对目前的现状进行了一点分析，基本上明确，在现阶段，自动驾驶造成的交通事故，责任还是在驾驶员身上。这不仅仅是政策法规滞后于技术的发展造成的，自动驾驶也还没有进化到无人驾驶的地步，而且车内还有驾驶员的专用席位。

我们说自动驾驶会带来安全的提升，那有无可能，未来会出现几乎绝对安全的出行呢？安全到已经不再需要保险，责任认定，理赔等等。可能性是存在的，未来道路上所有的车辆都自动驾驶，并且能够相互通信，道路本身也在不断给行驶的车辆发送各种交通信息，如果通信出现问题，车辆可以自动靠边停下来，只有在确保安全的情况下才行驶上路，人工驾驶的以及不能满足这种安全标准的车辆，不允许上路。未来会这样吗？我不知道，社会总是被技术推着向前进化，在交通事故责任认定这个问题上，似乎并不是人类最最重要的问题，科技的发展还是第一位的。

从自动驾驶到无人驾驶

可以这样来理解，自动驾驶的终极目标，就是无人驾驶。现阶段的自动驾驶，实际上还是需要人的参与，只是部分驾驶任务，实现了自动化。无人驾驶，即在任何情况下，都由系统自动操作，无需人工干预。从这个角度看现阶段的自动驾驶，也就能够理解上文所述的交通事故责任归属问题。

美国汽车工程师学会按照车载系统的智能化程度将自动驾驶汽车划分为 5 个等级。即：

1 级为辅助驾驶，即驾驶系统只能进行车道保持或加减速操作，其他驾驶操作仍由人完成，该等级智能汽车一般可在车道内实现自动驾驶。

2 级为部分自动驾驶，即驾驶系统能够进行方向控制和加减速等多项操作，其他驾驶操作仍由人完成，该等级智能汽车一般可实现换道行驶、环岛绕行、拥堵跟车等自动驾驶。

3 级为有条件自动驾驶，即驾驶系统能够完成生产厂商设计工况下的所有操作，驾驶员根据驾驶系统请求还需要提供适当的干预，该等级智能汽车一般可在高速公路实现自动驾驶。

4 级为高度自动驾驶，即驾驶系统能够完成生产厂商设计工况下的所有操作，特定环境下驾驶系统会向驾驶员提出请求，驾驶员可以不予响应，驾驶系统仍能实现安全操作，该等级智能汽车一般可在高速公路、市区道路实现自动驾驶。

5 级为完全自动驾驶，该等级智能汽车可在所有道路环境下实现自动驾驶，完全替代人驾驶。

能不能达到第5级？不同的声音很多，就像是在讨论人工智能，能不能从弱人工智能，发展到强人工智能，进而完全超过人类智能一样。

大部分比较谨慎的人一般表达出自动驾驶很难达到第5级这样意思，完全无人的驾驶，脑洞似乎开得有点大了。而那些科技前沿的弄潮儿，脑洞大，胆子大，行动也跟得上，这些人在积极推动完全无人驾驶的出现。没有谁能够准确预测未来，但是大部分人认同的未来，一般都不会发生。

在2019年第三季分析师会议上，特拉斯的CEO马斯克透露，他说虽然不能百分百保证，但特斯拉的“完全自动驾驶”（FSD）功能可能在年底与大家见面。“虽然会很赶，但功能完备的自动驾驶似乎仍然会在今年提前限量开放。”马斯克在会议上说道，不过他的语气一改往常宣布消息时的肯定，而是强调“不确定”，但测试版在年底向少数用户开放有望“步入正轨”，他们将为参与早期测试的用户激活 FSD。

同样致力于开发完全自动驾驶的初创公司Zoox的联合创始人利文斯顿被问到特斯拉是否可能在2020年实现完全自动驾驶时，他斩钉截铁地表示不可能，以现有的技术水平，计算机视觉还没有完善到可以不借助任何传感器完成自动驾驶系的程度，尽管马斯克对激光雷达的嫌弃尽人皆知。

苹果的联合创始人史蒂·沃兹尼亚克（Steve Wozniak）则更加悲观，他说在自己的有生之年，汽车和科技行业难以克服障碍，实现完全自动驾驶，行驶过程中一旦发生异常情况还是需要“人”来控制局。

自动驾驶已经让交通部门的政策制定者感到为难了，如果到了无人驾驶，恐怕会难上加难！无人驾驶理论上就不再需要驾驶员，这样连驾驶室和方向盘等操作部件都可以不需要了，出了事谁负责？是否允许没有方向盘的汽车被生产出来上路？无人驾驶会造成大面积司机失业，带来的社会影响怎么处理？

完全无人驾驶，我觉得至少有一个好处，理论上不用考驾照了！任何人买个车就可以上路跑。也没有所谓开车的年龄限制了，老年人残疾人都可以拥有自己的无人驾驶车辆，应该说这是好事情。不过，可以想象，如果开始放开完全无人驾驶，挑战是极大的。

不过，现在在一些特殊区域，已经出现了特殊用途的完全无人驾驶，比如机场的接驳车。这类车体型娇小，行驶缓慢，没有驾驶员，只能在机场特定区域内自动行驶，仅用于往来接送。

比电车难题更难

围绕自动驾驶，有一个被称为电车难题的话题，一直被反复提及。这个话题其实很早以前，就被哲学家提出来探讨，作为一个著名的思想实验，一直充满争议，没有明确的答案。在自动驾驶领域，这个问题更具有现实的骨感。

电车难题大概是这样的：

一辆电车从铁轨上驶来。在铁轨上，有5个人被绑在那里无法移动。电车直冲向他们。你站在扳道杆旁。如果扳动道杆，那么电车就会驶向另一条铁轨。但你注意到，另一条铁轨上也有一个人在那里。那么你有两种选择：
（1）什么都不做，电车将撞向当前铁轨上的5个人？
（2）扳动道杆，让电车驶向另一条铁轨，撞向另1个人？
那么，哪一个是更符合道德伦理的选择？如果是你，你会怎么选呢？

自动驾驶汽车受复杂的AI系统控制，如果真的出现了类似电车难题这样的判断场景，AI系统会做出怎样的选择？这个问题一直备受关注。

电车难题的困难在于，无论怎么选择，都有人要死，这一点直接与我们的文明价值相冲突。不同选项的差异仅仅在于，死的人多，还是人少。如果什么都不做，或者你装作没看见，电车按照原来的路径行驶，死5个人。但是，你会想到，如果扳动道杆，就只需要死1个人，少死4个。用1条人命换另外5条人命，似乎很正确。但是，凭什么那1个人就要去死呢？他可能只是在那里散步，他清楚电车不会走到这条轨道上来，他什么都没有做错，你凭什么要让他去死，然后去就救与他毫不相干的另外5个人呢？如果扳动道杆，你的行为是否涉嫌谋杀呢？为了救人而去杀人，是否合乎伦理呢？那5个人的生命，就一定比这1个人的更重要吗？

在自动驾驶的车里，问题更加复杂。

假设，道路中间突然出现一个人，自动驾驶的车辆此时来不及刹车，系统能做的选择，要么开过去，撞死那个突然出现的人，要么转向傍边的一条行人小道。可是，在傍边的行人小道上，有一群小孩在玩耍。在那一瞬间，自动驾驶系统应该如何判断下一步动作？是选择直接撞过去，因为小孩子更重要，还是转向？

难吧！还有更难的地方！！

其实，此时自动驾驶系统还有第3个选择，选择转向到没有小孩的那一边去，那边可能是一堵墙，或者一棵大树，或者是悬崖。这个选择，不会伤害道路中间突然出现的行人，也不会影响到在小道上玩耍的小孩，但是会要了车内人的性命。要如何选择呢？AI算法设计人员该如何设计算法的这个细节呢？

到底如何选择？可能每个人的答案都不太一样，可能不同的文化圈的答案也不一样，不管如何选择，它都是一个艰难的选择。

当记者将此问题抛给某汽车大厂的高管时，他的回答，道出了厂家们的心声：优先选择保护车内的人！为什么呢？因为只有优先保护车内的人，这样的车才可能卖得出去。但是，这个选择并没有解开困境本身。

也许未来科学技术的发展，能够彻底解决这样的难题，比如，让汽车突然飞起来！

其实，仔细想想，电车难题这一类问题，本身就已经超过了人类文明的极限。我们没有通过选择牺牲一部分人的生命，去换取另一部分人的生存的文化基因。生命与生命之间价值，是不可以去比较的，这是一个绝对的禁忌，我们信奉的是人人生而平等这类普世价值。每当一定需要作出这类决策的时候，总是异常的艰难，因为没有可遵循的伦理，没有可以能让内心平静的依靠，几乎都只能是让牺牲去自愿发生。人类文明自诞生之日起，就从来没有遇到过来自外部（地球以外）的致命威胁，所有人都是一样的生，一样的死，人道主义横行，救人一命胜造七级浮屠！人类文明本身，还从未遇到过生死存亡的威胁。这就几乎注定了，这种文明本身，无法发展出用一部分牺牲或换取整体生存的伦理，因为让哪一部分去牺牲，这是当前的状态下，无法选择的问题。无论怎么选择，都是错！只要作出选择，就等于谋杀！被选择牺牲的那一部分，也绝对无法坦然接受这样的命运。