2018 年 3 月,Uber 自动驾驶汽车在亚利桑那州撞死一位横穿马路的行人,这是全球第一起自动驾驶汽车「杀人」案件。

2022 年 3 月,美国《连线》(Wired)杂志深度采访了当时车内的自动驾驶安全员瓦斯奎兹,揭秘了这起事故背后的隐秘故事

三年时间里,Uber 自动驾驶部门已经出售,而自动驾驶在经历过短暂低潮后,在硅谷和中国再次成为资本关注的热点。

全球第一起自动驾驶“杀人案”背后的隐秘故事-冯金伟博客园

拉斐拉·瓦斯奎兹(Rafaela Vasquez)喜欢一个人在晚上工作,短暂地逃离这个没法让她感到信任的世界。

2018 年 3 月的一个周日晚上,Uber 给她安排了斯科茨代尔环路。她开着一辆装有摄像头和激光雷达传感器的灰色沃尔沃越野车,穿过公司的车库。在她经过的一面墙上贴着张海报:一名司机低头盯着一部手机,上面写着「手机可以再等等(it can wait)」。

时钟滴答作响地到了 9:15,瓦斯奎兹到达了道路的入口。她把沃尔沃调到自动驾驶模式,汽车自动行驶在亚利桑那州郊区。瓦斯奎兹此前沿着这条路自动驾驶过 70 次左右。

晚上 9 点 58 分,当她绕完第二圈后,汽车滑向一段介于景观中心区和沙漠荒地之间的荒凉道路。中心区立着四个标志牌,上面指引 116 米外有一条人行横道,警告人们不要在那里乱穿马路。

此时 Uber 的驾驶系统已经完全控制了这辆车 19 分钟。有一辆车正在他们前面 5 到 6 秒可达的范围内,系统录了下来,但没有向瓦斯奎兹发出警报。随后,因为不知道前方那个物体是什么,计算机取消了最初的评估。没一会儿,它又把分类切换回车辆。然后系统在车辆和「其他」之间摇摆不定。

离物体 2.6 秒时,系统识别出它是「自行车」。1.5 秒时,它又把它视为「其他」。然后又回到「自行车」。

不管是什么,系统试图绕过它,但它判定已经做不到了。然后在撞击前 0.2 秒,汽车发出声音,提醒瓦斯奎兹车辆将减速。在撞击前的 0.02 秒,瓦斯奎兹抓住方向盘,汽车转入手动模式。然而,车辆正在以 63 公里每小时的速度行驶。

太迟了。

被撞碎的自行车在人行道上留下了 8 米长的尾迹。一个人瘫倒在路上。瓦斯奎兹做了 Uber 在测试项目中,教员工在紧急情况下该做的事情:她把车靠边停下来,拨打 911。

一个骑自行车的人…我…撞到了一个在路上骑自行车的人,」她跟调度员描述情况,声音发抖。「他们在街上飞出去了。」

事故发生后不到六分钟,警察到了,医务人员也到了。警察用手电筒扫看地上的人。一名医务人员跪下,开始按压受害者胸部。

全球第一起自动驾驶“杀人案”背后的隐秘故事-冯金伟博客园

几分钟后,一名警官走向沃尔沃。「那个人还好吗?他们受了重伤吗?」瓦斯奎兹问警官。还没得到回答,瓦斯奎兹听到了哀嚎声。「是那个在哭喊的人吗?」警官却说,「不,不,那可能是他们认识的人。」

Uber 的管理层到了。瓦斯奎兹从主管那里得知,骑自行车的人已经死亡

赫茨伯格的死亡,是那种自动驾驶行业声称可以防止的悲剧:在美国,车祸每年造成 38,000 多人死亡,其中 90% 以上至少部分是由于人为失误。通过剔除嗜睡、注意力不集中、醉酒和情绪失控,代之以警惕的、精确的技术,自动驾驶汽车有望让道路变得更加安全。

但要实现所谓的未来,我们必须首先经受住我们现在所处的时代,一个科技只是「学生司机」的时代。这意味着一辆辆装有传感器的汽车,为了学习如何比人类做得更好,在数百万英里的公共道路上「测试」以吸纳数据。但正如专家们一直警告的那样,这不可避免地意味着事故的发生。

人类驾驶的一个世纪以来,出现事故时的归责问题已经被解决。但对于现在在街道上游荡的「半机械人」来说,这些问题在很大程度上还处在思想实验的阶段:车辆被机器大脑控制,由人类工程师编程,在路上则通常由其他开车的人监督。

对自动驾驶汽车造成的第一起行人死亡事件,公众和法律体系将做出什么反应?多年来,研究人员和自动驾驶倡导者一直急于搞清楚这件事情,坦佩的撞车事故将这些想法变成了现实。

在那天晚上的现场,瓦斯奎兹站在了一场悲剧和一个难题的中心。

「这将是整个行业的一次挫折」,作为自动驾驶革命的忠实卫士,瓦斯奎兹对警察说,「这不是我想要的。」

在过去的几年里,瓦斯奎兹一直为一些知名度很高的公司打零工,Uber 给她提供了一份稳定的工作。

午夜过后,当她和警官凯尔·勒尔(Kyle Loehr)坐在坦佩桥附近的车里,努力应对赫茨伯格的死亡时,她发现自己在问,「我需要律师吗?」

亚利桑那州州长道格·杜西(Doug Ducey)在 2015 年上任时,曾承诺要将该州从衰退后的低迷中拯救出来。

他想把硅谷的公司吸引到亚利桑那州的边境,他夸张地把亚利桑那描述成反加州的州,他取消了对血液检测公司 Theranos 的限制、欢迎苹果建设数据中心、结束了当地对 Airbnb(美国短租平台)的禁令,他还向官员施压,让 Uber 和 lyft 进入凤凰城最大的机场。

杜西的一名员工曾经给 Uber 发了封电子邮件,称 2015 年亚利桑那州的一项法律将拼车规定为「你的法律草案(your bill)」。2015 年 6 月,Uber 开设了一个客户服务中心,并承诺雇佣 300 名亚利桑那州人。8 月,杜西签署了一项热情洋溢的行政命令,允许公司在公共道路上测试自动驾驶汽车。

在一段漫长的「求爱期」之后,亚利桑那州开始以热烈的、高调的姿态迎接 Uber 在坦佩的自动驾驶项目。

当时,Uber 首席执行官特拉维斯·卡兰尼克(Travis Kalanick)将自动驾驶出租车的发展视为一场生死攸关的战斗,尤其是在他们与谷歌的战斗中。他在一次采访中说,Uber 至少要在自动驾驶领域并列第一,否则「Uber 就什么也不是了(Uber is no longer a thing)。」因为在成本上,人类司机永远无法与自动驾驶竞争。

但是直到 2015 年初,Uber 仍然远远落后。因此 Uber 从卡内基梅隆大学的机器人部门挖走了 40 名专家,成立了一个名为 Uber 先进技术集团(the Uber Advanced Technologies Group)的机构,并给它布下任务:将公司转变为自动驾驶领域的一支中坚力量。Uber 向自动驾驶部门投入了数亿美元,在接下来的三年里,该部门将在五个城市发展 1000 多名员工。

2016 年,谷歌的 Waymo 和通用汽车的 Cruise 在凤凰城地区试驾自动驾驶原型车,杜西找到了另一种方法来宣传它的州——将亚利桑那重塑为美国的自动驾驶测试之都。

那年 12 月,在 Uber 拒绝他们需要获得测试许可这个要求后,加州取消了 Uber 测试车的注册。几小时后,杜西在推特上写道,「加州可能不想要你,但 AZ(亚利桑那州)想要!」

第二天,Uber 的沃尔沃被装载到开往亚利桑那州的半挂车上。

在这个神秘的行业,自动驾驶模式下的行驶里程是一个项目生命力的关键信号。

因此在整个 2017 年,伴随着亚利桑那州成为 Uber 最大的测试点,员工们回忆起公司领导人要求测试操作员「里程突进」——先是数十万英里,然后是数百万英里。

「这些都是为了达到非常离谱的目标」,培训人工备用操作员的前员工乔纳森·巴伦廷(Jonathan Barentine)说,「我们试图快速增长,这在当时是 Uber 擅长的,或者说能够做到的。」到 2017 年底,Uber 吹嘘自己每周行驶 8.4 万英里。

很快,Uber 的 40 辆汽车就开始在亚利桑那州数千英里的道路上行驶,每天最多轮班 8 次。当这些没有经验的「机器人」出问题时,将由人类操作员来处理,而监管者们几乎不予以关注。

当亚利桑那州欢迎 Uber 的大胆计划时,研究自动驾驶政策的学者布莱恩特·沃克·史密斯(Bryant Walker Smith)告诉媒体,杜西将象征性地「拥有」该公司的自动驾驶未来——无论是它的成功还是引人注目的撞车事故。

史密斯建议加州官员撤销 Uber 的注册,至于亚利桑那州对同一项目的快速接受,他警告说,「这种放任存在风险。」

在 2017 年的整个测试过程中,Uber 先进技术集团在亚利桑那州雇佣了数百名测试操作员。

在道路测试的最初几个月里,是两个人在车里一起工作。理想情况下,坐在左边座位的人(司机)会喊出障碍物和交通标志,坐在右边座位的人会在笔记本电脑上确认系统是否检测到它。如果出现问题,司机座位上的人可以控制汽车,另一个人会把这个问题写下来让公司审查。

首席执行官职务几个月后,Uber 宣布改变计划:每辆车只有一名操作员。

一些人听说是因为技术越来越进步,但是随着自动驾驶部门每年消耗数亿美元,先进技术集团的其他人则听说 Uber 是想让相同的劳动力成本,应用于更长的测试里程。(Uber 表示成本不是其决定的一个因素。)

因为操作员要独自操作汽车,巴伦廷突然需要对他们进行再培训。他说,通常情况下,单人驾驶只会用于测试更成熟的软件版本。现在对汽车途中性能的反馈,将通过安装在仪表板上的平板电脑上输入。

「一些操作员告诉我,他们必须习惯独自驾驶汽车几个小时,期间没有伙伴可以对话以让重复循环的工作有趣些。」结合他们增加的行驶里程数,这一变化让巴伦廷感到担忧。

在第一天独自测试自动驾驶系统时,匹兹堡的操作员亚当·卡普林格(Adam Caplinger)在红灯前拍了一张照片,他随后自己报告了违规行为。

后来管理人员向他展示了汽车仪表盘上的视频:当车辆继续行驶时,他仍然在手机上打字。这一时刻卡普林格甚至都不记得了。「我觉得胃不舒服」,他说,「我的眼睛确实比我意识到的更多地盯着手机。」

坦佩的经理们偶尔也会进行追溯性抽查,提取随机选择车辆的车内录像。但是由于日程繁忙,里程急剧增加,这种检查并不频繁。

瓦斯奎兹的主管后来告诉调查人员,他从未看过她工作时的视频。另一位主管表示,该公司也没有实时检查司机:「我们不想让操作员认为我们在他们工作时监视他们。」他补充道,大多数情况下,他们相信操作员会自我监管。

全球第一起自动驾驶“杀人案”背后的隐秘故事-冯金伟博客园
第一个被自动驾驶汽车撞死的行人的墓地(摄影:Cassidy Araiza)

但是,不管是谁来执行警务,不管是主管还是操作员,都面临着一场西西弗斯式的战斗,对抗一个有据可查的现象:所谓的「自动化自满(Automation complacency)」。

2013 年,谷歌启动了自己的自动驾驶试点项目,让员工在通勤途中测试汽车。谷歌员工被告知要时刻注意道路上的情况,并准备好在紧急情况下接管,?但他们转而在高速公路上飞驰时打字、卷睫毛、睡觉。

谷歌在几周内结束了这项实验,认为必须让人类完全脱离这个循环,而他们找出的方法是完全自动化。

更近的,特斯拉司机被发现使用自动驾驶功能在高速公路上行驶时睡觉,并被卷入了多起致命车祸,其中一名加州司机的手机上,正跳动着一款策略游戏。

根据 Uber 后来给调查人员的记录,在 2017 年 4 月至 2018 年 2 月期间,该公司抓到了 18 名违反电话政策的操作员。Uber 对其中 9 人进行了额外培训,并解雇了另外 9 人。

操作员弗拉维奥·贝尔特兰(Flavio Beltran)也是被解雇的一员,他说,「我被摧毁了,这是我做过的最好的工作之一。」但他和卡普林格都说,他们的失误,一部分是由于公司政策,他们说:如果还有第二个人在车里,他们永远不会拍摄那些该死的照片。

「里程突进」时代累积的庞大循环数量感到困惑。他说,事故发生时,一位同事给他发了一条冷酷的短信。他回忆短信上写着,「终于发生了。我们终于杀了人。」

一场相互指责的游戏

「我不能给出法律建议。」在瓦斯奎兹询问自己是否需要律师后,勒尔警官告诉它当局会重建车祸现场,这将确定瓦斯奎兹是否有任何疏忽。

但是坦佩的警察知道这不仅仅是另一次碰撞,Uber 也是如此:事故发生后,该公司将其自动驾驶车队停在了测试站点上。

瓦斯奎兹回到 Uber 总部冷静下来后,最终开车回家。沃尔沃被拖到一个警所,警察获得了对该车数据的搜查令。黎明前,他们从安装在后视镜下方的摄像头中拿走了存储卡,里面记录了驾驶员和前方道路的画面。

全球第一起自动驾驶“杀人案”背后的隐秘故事-冯金伟博客园

坦佩警方和 Uber 代表之间的电子邮件,讨论了事故发生后第二天早上的录像(截屏:坦佩警察局)

Uber 员工帮助警方找到了录像:汽车行驶时瓦斯奎兹坐在驾驶座上的视频,然后是瓦斯奎兹低头看着她的右膝盖,看着下面的控制台。

她向下看的时间平均为 2.56 秒,但在前面的一个循环中,在车祸发生的同一路段,她向下看的时间超过了 26 秒。在汽车撞上赫茨伯格的前几秒钟,瓦斯奎兹向下看了大约五秒钟。就在撞击之前,她抬起头,倒吸了一口气。

第二天,媒体对这件事大肆报道。专家们立即斥责亚利桑那州松懈的监管环境,呼吁全国暂停测试,并表示开发这种技术时,死亡是不可避免的。

时间一分一秒地过去,记者们开始挖掘尽可能多的有关瓦斯奎斯的细节,包括她 18 岁时曾有过的一项重罪信息,她因这一重罪在监狱服刑不到四年。

当天结束时,警方发布了一份搜查令,搜查瓦斯奎兹在沃尔沃车内携带的所有手机,「以确定瓦斯奎兹是否走神。」也许这会显示她对什么如此感兴趣。逮捕令还列出了目前正在调查的罪行:车辆过失杀人。

瓦斯奎兹最初告诉警察,撞车时她在车里只带了工作电话,但最终交出了两部 LG 手机——她向他们解释说,她工作用的手机有一个黑色的外壳,还有一部是她的私人手机,有一个金属外壳。第二天早上,警方提取的数据显示,事故发生前几分钟内没有任何电话或短信。

坦佩警方受到了公众「相当大」的压力,他们想证明没有什么可隐瞒的,所以警方在推特上发布了撞车前瞬间的录像。一名接线员乔·盖伊(Joe Guy)和其他人来到了 Uber 在坦佩的园区,他们聚在一起观看了瓦斯奎兹的视频。「我们大都这么干」,他说。

事故发生三天后,来访的 Uber 管理层与坦佩市警方、国家公路交通安全管理局(National Highway Traffic Safety Administration)和国家交通安全委员会(National Transportation Safety Board)的联邦调查人员齐聚 Uber 园区。美国国家运输安全委员会前主席罗伯特·萨姆沃特(Robert Sumwalt)解释说,系统软件的所有权属于 Uber,所有人都需要 Uber 来主动分享自己的数据。

根据警方对这次会议的报告,Uber 的代表向该组织报告说,公司没有采用沃尔沃的内置自动刹车功能。他们给出的解释是,它干扰了公司自己的系统。

这些代表还展示了他们的初步发现:虽然 Uber 自己的驾驶系统认出了赫茨伯格,但它并没有采取任何措施来避免撞到她。他们说,这是瓦斯奎兹的工作。直到撞击之前,她才解除了汽车的自动控制。

事故发生一周后,杜西州长写信给 Uber CEO 达拉·科斯罗沙希(Dara Khosrowshahi),这次他换上了严厉的语气。「我的首要任务是公共安全。」他发现行车记录仪的录像「令人不安和担忧」。他写道,将暂停 Uber 在该州测试汽车。

全球第一起自动驾驶“杀人案”背后的隐秘故事-冯金伟博客园
事故地点附近的标志警告人们不要乱穿马路(摄影:Cassidy Araiza)

事故发生 10 天后,Uber 同意为赫兹伯格的丈夫和女儿支付和解金,金额为几百万英镑。尽管 Uber 免除了民事责任,但调查人员仍在继续追问新的细节。

到 4 月中旬,瓦斯奎兹与她的 Uber 付费律师和 Uber 自己的律师一起,与国家运输安全委员会的调查人员交谈。根据该机构的谈话记录,瓦斯奎兹告诉他们,那天晚上上班时,她把私人手机放在身后的钱包里。她的工作电话在乘客座位上。她说她一直在监控安装在中控台上的 Uber 平板电脑,然后抬起头,看到了赫茨伯格。

坦佩警方把注意力转向了应用程序:撞车时驾驶者是在看网络视频吗?然后 Netflix、Hulu 和 YouTube 都获得了搜查许可。

数据显示,在碰撞前后的几个小时内没有发现播放节目。但在 5 月底,Hulu 的法律团队报告说,晚上 9 点 16 分以后,瓦斯奎兹的个人手机开始播放才艺节目「美国好声音(The Voice)」。这一集在 9 点 59 分结束,事故发生在 9 点 58 分。

大约一个月后,警方向媒体公布了数百页的调查文件——包括来自 Hulu 的看似确凿的报告。警方的分析发现,如果瓦斯奎兹一直看着道路,她本可以在赫兹伯格前方 12.8 米处停下来。他们认为车祸「完全可以避免」。

就这样,媒体的焦点从 Uber 转移到了瓦斯奎兹身上。《每日邮报》的标题是:「Uber 自动驾驶汽车车轮后面的被定罪重罪犯正在播放她手机上的「美国好声音」,并在撞车前大笑,撞车导致亚利桑那州一名行人死亡。」

瓦斯奎兹在谷歌上设置了她的名字提醒,然后不停地阅读每一条评论,包括对她外貌和跨性别的侮辱。她想知道自己的性别认同与车祸有什么关系!她关闭了自己的社交媒体账户。

赫兹伯格去世后的几周里,Uber 的先进技术集团举行了多次全体会议。此时的 CEO 埃里克·梅霍弗(Eric Meyhofer)和其他领导人告诉员工,他们不会让内部调查变成一场相互指责的游戏,也不会对瓦斯奎兹做出任何假设,员工们可以休假或拜访心理咨询师。

随着这些自动驾驶测试车不再上路,Uber 也开始了自己的技术反思——对事故和 Uber 的安全措施进行自我评估,并成立了一个安全顾问小组,其中包括一名 NHTSA(国家公路交通安全管理局)的前管理者。

Uber 对汽车进行了编程,使其硬刹车延迟一秒钟,以便系统核实紧急情况,避免误报,然后由人来接管。系统只有在完全避免撞车的情况下才会强制刹车,否则就会逐渐减速并警告操作员。

沃尔沃告诉 NTSB,事故发生后,它进行了自己的系统测试,发现其自动制动系统(Uber 为了自己的系统推翻的那个系统),在 20 种事故情况的 17 种情况下,可以防止事故发生,在其他 3 种情况下可以降低撞击速度。

自动驾驶学者布莱恩特·沃克·史密斯(Bryant Walker Smith)说:「当撞车事故发生时,人们的感叹从『哦,天哪,这可能发生在任何人身上』变成了『嗯,不奇怪,那可是 Uber。』」

随着更多信息的发布,Uber 员工对公司管理层越来越失望。巴伦廷说:「人们直言不讳地说这是一个巨大的失误,存在道德上的过错,公司需要做出改变。」

「这些人来这里工作,是因为对自动驾驶的承诺和这个乌托邦式的未来」,匹兹堡的一位经理告诉作者,「这是一个相当沉重的打击,他们觉得自己促成了如此严重的事情」。

该公司放弃了在 2018 年底前让无人驾驶出租车投入使用的计划,新的目标是 2022 年。

5 月下旬的一个早晨,近 300 名正在坐冷板凳的坦佩员工被告知到 Uber 园区报到。运营主管奥斯汀·盖特(Austin Geidt)向这些人发表讲话:亚利桑那州拒绝了他们留下的建议。所有人都被解雇了。

事故发生一年后,亚利桑那州的一名检察官宣布,该州不会对 Uber 的死亡事件提出刑事指控。次月,先进技术集团从软银、电装(日本汽车零部件及系统供应商)和丰田获得了 10 亿美元的投资,在 Uber IPO 三周前,该部门的估值为 72.5 亿美元。

一直以来令一些员工感到惊讶的是,没有管理层因为赫兹伯格的死或随后的混乱而被解雇。

2019 年 11 月,事故发生一年半后,NTSB 发布了最终报告。这份 78 页的文件没有法律效力,它旨在防止未来的事故。

瓦斯奎兹请了一个新的法律团队,Uber 没有为此付钱。

亚利桑那州辩护律师迈克尔·皮卡雷塔(Michael Piccarreta)解释说,审判的结果将取决于瓦斯奎兹是否「严重偏离」了「理性人(reasonable person)」应该采取的标准,即亚利桑那州过失杀人的定义。

对瓦斯奎兹的辩护团队来说,「理性人」不是司机,而是自动驾驶 Uber 的操作员。他们补充说,即使是 NTSB 也表示,分心是自动化自满的典型甚至是可以预测的影响。

他们就差一点。除非你对流程进行检查时发现,他们明明知道会发生这种情况,但却毫不在意。」他说,Uber 有一个内置的防御:它把一个人放在那里就是为了避免撞车。

「我觉得在某种程度上被背叛了,」瓦斯奎兹说。「起初,每个人都站在我这边,甚至警察局长。现在恰恰相反。从字面上来说,第一天我很好,第二天我就是恶棍。这非常…这是孤立的。」

全球第一起自动驾驶“杀人案”背后的隐秘故事-冯金伟博客园
亚利桑那州坦佩的事故发生地点(摄影:Cassidy Araiza)

有一段时间,就在瓦斯奎兹开始为 Uber 开车时,自动驾驶革命似乎就在眼前。公司叫嚷着要加快时间表;追逐时代精神的科技工作者希望赶在问题解决之前,进入这个还留有炒作空间的领域。

赫茨伯格的死打破了这一承诺,近年来,该行业受到了重创。2020 年底,Uber 将先进技术集团和数百名员工出售给一家名为 Aurora 的公司,置换了该公司 26% 的股份,并保证对方未来使用 Uber 的技术。电动汽车自动驾驶初创公司 Zoox 被出售给亚马逊。Lyft 将其自动驾驶部门出售给丰田的一家子公司。

特斯拉现在正在接受美国交通部的调查,因为该公司的 11 辆汽车在自动驾驶或巡航控制下撞上了停放的紧急车辆。在 NTSB 关于特斯拉致命撞车事故的一次听证会上,时任该机构主席的萨姆沃尔特(Sumwalt)表示,「是时候停止让任何『部分自动驾驶汽车』的公司假装他们的汽车可以无人驾驶了。」

去年秋天,洛杉矶县检察官指控一名特斯拉司机犯有车辆过失杀人罪,当时他的车据报道处于自动驾驶模式,闯红灯后撞上另一辆车,造成车内两人死亡(司机不认罪,正在等待听证会)。这一次,面临指控的不是一家自动驾驶公司的员工,而是一名普通公民。这也意味着,瓦斯奎兹的情况也可能是你会面临的。

虽然坦佩的撞车事故让这个行业冷静下来,但在某种程度上,它也正在从后视镜中消退。

今天,八家公司的自动测试车在亚利桑那州的道路上跋涉。在发出暂停先进技术集团在该州测试的信件两年多后,杜西州长给 Uber CEO 科斯罗沙希发了电子邮件。

杜西要求首席执行官「就我们的州如何成为确保 Uber 持续成功的合作伙伴,进行对话… 亚利桑那州对商业开放,我们将很荣幸地支持 Uber 的长期增长。」