写点什么

Uber 无人车曝出致命漏洞:系统根本无法识别行人过马路

  • 2019-11-07
  • 本文字数:2318 字

    阅读完需:约 8 分钟

Uber无人车曝出致命漏洞:系统根本无法识别行人过马路

2018 年,Uber 自动驾驶汽车发生了全球首例致死车祸,一名女子在过马路的途中被撞身亡。此事随即引发了全球对无人车的关注,尤其是安全问题,Uber 也因此不得不停滞其全球无人车测试工作。

一年多以后,随着更多细节的公开,Uber 无人车致死案的起因也变得更加复杂。


先来简单回顾一下案情。


2018 年 3 月 18 日晚上 10 点,美国亚利桑那州 坦佩市一名女子被 Uber 自动驾驶汽车撞伤,之后不幸身亡。


当地警察部门报告称,事发时,尽管有一名司机(安全员)坐在方向盘后面,但是,这辆车当时正处于自动驾驶模式,行驶车速为每小时 38 英里,而该地区限速为每小时 35 英里,而且没有尝试刹车。该车当时正朝北行驶,一名女子正在从距人行横道 100 码(约 91 米)的地方从西往东走。


亚利桑那州坦佩警察局局长 Sylvia Moir 表示:初步调查显示,在致一名行人死亡的交通事故中,Uber 可能不存在过错。他表示,Uber 自动驾驶汽车配备的摄像头拍摄的视频显示这次交通 事故过错在受害者本人——今年 49 岁的 Elaine Herzberg,而非 Uber。“根据受害人横穿马路的方式,无论是有人还是自动驾驶模式,要避免这起交通事故是极其困难的。”


然而,根据美国国家安全运输委员会(NTSB)周二发布的官方档案,事情似乎并非如当时的调查所发现的那样。

Uber 无人车曝出“大漏洞”:无法正确识别过马路的行人

美国国家安全运输委员会周二发布了有关对 Uber 无人车事故进行了 20 个月调查的文件。小组将在两周内发布有关该事件的最终报告。


这份长达 40 页的文件深入探讨了案件的各种细节。


文件表明:最明显的错误与软件有关。Uber 根本没有训练无人车在人行横道之外识别行人


此外,Uber 选择关闭测试车辆内置的紧急制动系统,而测试车辆制造商沃尔沃后来得出结论:制动系统原本能大幅降低无人车撞上受害者的速度。


注:对此有专家表示,从技术上来说,在 Uber 的软件工作时关闭沃尔沃内置系统的决定是有意义的,因为对于汽车来说,拥有两个软件“主人”是不安全的。


这很大程度上解释了为什么尽管汽车检测到受害者,且有足够的时间来停车,却还是以每小时 38 英里的速度撞了上去。


另外调查显示:当汽车在撞击前 5.6 秒首次检测到受害者的存在时,竟然将其识别为车辆,随后又归类为“其他”,最后,无人车将她识别成了“自行车”。



NTSB 的报告显示:车辆每次尝试进行新的物体识别时,都会重新开始预测该物体的前进方向。所以直到撞击发生 1.2 秒钟后,系统才意识到车辆即将撞到行人,并且需要紧急刹车。这触发了 Uber 的紧急控制机制:系统在确认“已检测到危险”的同时会制动一秒钟,在此期间,安全操作员(Uber 最重要的也是最后一道防线)可以控制汽车并进行刹车。


但遗憾的是,事故发生时安全员并没有在看路。因此,在撞击发生前 0.2 秒,汽车发出了声音警报,安全员才抓住方向盘,接管了自动驾驶系统。可是为时已晚,致命的撞击还是发生了。


Uber 发言人在一份声明中表示:“对 2018 年事故感到遗憾”,并强调公司已对其安全计划进行了更改。根据 Uber 作为调查一部分提交给 NTSB 的文件,20 个月以来。Uber 已经改变了其安全驾驶员培训,现在每辆车安排两名安全操作员。该公司还改变了其安全团队的结构,并创建了一个系统,工作人员可以匿名报告安全问题。


NTSB 将于 11 月 19 日在华盛顿特区举行一次有关此事件的会议,届时调查人员将发布有关事故的全面报告,详细说明发生了什么以及哪一方需要承担什么责任。研究人员还将向联邦监管机构和 Uber 等公司提供建议,以便更好的构建防止此类事故的技术。

多家企业自动驾驶系统存在高危漏洞

近日伊利诺伊大学工程学院的一份报告也揭露了一些无人车系统存在的安全隐患,涉及百度、英伟达等多家企业的自动驾驶系统。


该小组分析了 2014 年至 2017 年提交的所有安全报告,其中涵盖 144 辆无人驾驶汽车,累计行驶里程达 111.6605 万英里。他们发现在行驶里程相同的情况下,人类驾驶汽车发生事故的机率只相当于无人驾驶汽车的四千分之一。这意味着无人驾驶技术无法以理想的速度处理紧急状况,人类驾驶员往往需要快速接手才能阻止事故的发生。


而在提高安全水平的努力中,研究人员与相关企业发现,他们很难在无人驾驶系统遭遇特定问题之前,通过预先训练的方式让软件学会如何解决这些问题。


此外,软件与硬件堆栈中的某些错误只会在特定驾驶场景下引发安全问题。换句话说,单纯在高速公路或者空旷 / 拥护的街区进行无人驾驶测试可能还不够,因为这些软件 / 硬件故障仍有可能在其他条件下引发问题。


在对一种已经公开的视音频技术(来自百度 Apollo 项目)进行测试时,该团队发现了超过 500 种实例,证明该软件在这些情况下可能无法解决问题进而导致事故发生

全自动驾驶何时能实现?

英伟达公司架构研究副总裁 Steve Keckler 曾表示:“无人驾驶汽车的安全性,决定着其能否在市场乃至整个社会当中取得成功。”


正是因为这些短时间内难以逾越的安全漏洞,才让全自动驾驶的实现时间一拖再拖。就连苹果公司联合创始人Steve Wozniak都发出感叹:不得不暂时放弃 L5 级自动驾驶。


但是仍然有一些消息令行业振奋。不少科技公司都加入到“造车大军”中来,国内外不少测试地区已经开始上线 Robotaxi 自动驾驶出租车服务;老牌汽车制造商也纷纷投入精力去做自动驾驶,大众汽车就在前不久宣布成立自动驾驶子公司,目前尚不知道这样的转变能给自动驾驶行业带来什么新动力,但是各方积极的态度还是能让人看到一些好的发展势头。


不过,热情当头也请不要忘了一年前的这一场教训。无人车不是玩具小车,乘客也好、行人也好,都是鲜活的生命,容不得半点马虎,只有解决了安全问题,才能让更多人相信无人车、选择无人车,在路况尤为复杂的中国,自动驾驶行业的“老司机”们还是要多下一些功夫才是。


2019-11-07 16:182076
用户头像
陈思 InfoQ编辑

发布了 576 篇内容, 共 288.5 次阅读, 收获喜欢 1303 次。

关注

评论

发布
暂无评论
发现更多内容

太狠了,Spring全家桶笔记,一站式通关全攻略,已入职某厂涨薪18K

Java 程序员 后端

如何让自己像打王者荣耀一样发了疯、拼了命、石乐志的学习

Java 程序员 后端

学习高并发的前置知识——Java中的线程基础,springcloud实战演练

Java 程序员 后端

如果当时这16道题能答好,现在应该已经被录取了(记一次面试的亲身经历 2020-9-9

Java 程序员 后端

学IT的人太多了,现在入行还有出路吗?,linux环境高级编程

Java 程序员 后端

太狠了!阿里技术官熬夜半年肝出来的Spring Boot巅峰之作,爱了

Java 程序员 后端

如何理解互斥锁、条件锁、读写锁以及自旋锁(1),mysql入门到精通电子书

Java 程序员 后端

字节跳动,三面我败了!但是我把经验记录了下来,java编程思想第六版百度云

Java 程序员 后端

头条「2020最新」Spring最易学习教程,百度java面试经验

Java 程序员 后端

如何在Spring Boot应用中优雅的使用Date和LocalDateTime

Java 程序员 后端

如何快速成长为技术大牛?阿里资深技术专家的总结亮了!

Java 程序员 后端

如何设计一个百万级用户的抽奖系统?,三面蚂蚁核心金融部

Java 程序员 后端

学生管理系统(SSM简易版)总结,斗鱼Java开发二面被刷

Java 程序员 后端

如何保证高可用?搞定三种集群模式,Redis还不是手到擒来

Java 程序员 后端

如何阅读一本书-读书笔记,java二到三年经验面试题

Java 程序员 后端

太难了,面试官不讲武德!来骗来偷袭,分层架构图案例

Java 程序员 后端

如何保证Redis与数据库的双写一致性?,十分钟带你看懂Netty如何实现C-S

Java 程序员 后端

字节首席架构师整合面试痛点,成就399页Java框架核心宝典

Java 程序员 后端

华为云专家向宇:工欲善其事必先利其器,才能做数据的“管家”

华为云数据库小助手

GaussDB GaussDB(for Influx) 华为云数据库 华为云数据库创新Lab

学弟学妹们请不要错过自己的“黄金奋斗三年”,java实战项目代码

Java 程序员 后端

如何在分布式系统中正确的使用缓存?别给你的项目引入定时炸弹!

Java 程序员 后端

模块二作业

doublechun

「架构实战营」

如何让阿三 Windows 10、11 的恢复分区(Recovery Partition

Java 程序员 后端

字节跳动Java开放岗面经:14天快速面试,已拿offer,Java全套百度云

Java 程序员 后端

学会RabbitMQ代理的连接,是一种怎样的体验?,mongodb教程

Java 程序员 后端

字节跳动一年一更的400多页算法刷题宝典已更新,力扣官网沸腾

Java 程序员 后端

太难了,救救孩子吧,到现在还搞不懂TCP的三次握手四次挥手

Java 程序员 后端

如何使用Spring Cloud Consul的其他配置和发现功能,不会来学

Java 程序员 后端

如何在今年难找工作的大环境下成功入职阿里?Java架构师面试高频300题:集合

Java 程序员 后端

如何正确使用Spring Cloud Zookeeper,不懂来学,java教程下载网盘

Java 程序员 后端

如果当时这15道题能答好,现在应该已经被录取了(记一次面试的亲身经历 2020-7-20

Java 程序员 后端

Uber无人车曝出致命漏洞:系统根本无法识别行人过马路_AI&大模型_陈思_InfoQ精选文章