HarmonyOS开发者限时福利来啦!最高10w+现金激励等你拿~ 了解详情
写点什么

Uber 无人车曝出致命漏洞:系统根本无法识别行人过马路

  • 2019-11-07
  • 本文字数:2318 字

    阅读完需:约 8 分钟

Uber无人车曝出致命漏洞:系统根本无法识别行人过马路

2018 年,Uber 自动驾驶汽车发生了全球首例致死车祸,一名女子在过马路的途中被撞身亡。此事随即引发了全球对无人车的关注,尤其是安全问题,Uber 也因此不得不停滞其全球无人车测试工作。

一年多以后,随着更多细节的公开,Uber 无人车致死案的起因也变得更加复杂。


先来简单回顾一下案情。


2018 年 3 月 18 日晚上 10 点,美国亚利桑那州 坦佩市一名女子被 Uber 自动驾驶汽车撞伤,之后不幸身亡。


当地警察部门报告称,事发时,尽管有一名司机(安全员)坐在方向盘后面,但是,这辆车当时正处于自动驾驶模式,行驶车速为每小时 38 英里,而该地区限速为每小时 35 英里,而且没有尝试刹车。该车当时正朝北行驶,一名女子正在从距人行横道 100 码(约 91 米)的地方从西往东走。


亚利桑那州坦佩警察局局长 Sylvia Moir 表示:初步调查显示,在致一名行人死亡的交通事故中,Uber 可能不存在过错。他表示,Uber 自动驾驶汽车配备的摄像头拍摄的视频显示这次交通 事故过错在受害者本人——今年 49 岁的 Elaine Herzberg,而非 Uber。“根据受害人横穿马路的方式,无论是有人还是自动驾驶模式,要避免这起交通事故是极其困难的。”


然而,根据美国国家安全运输委员会(NTSB)周二发布的官方档案,事情似乎并非如当时的调查所发现的那样。

Uber 无人车曝出“大漏洞”:无法正确识别过马路的行人

美国国家安全运输委员会周二发布了有关对 Uber 无人车事故进行了 20 个月调查的文件。小组将在两周内发布有关该事件的最终报告。


这份长达 40 页的文件深入探讨了案件的各种细节。


文件表明:最明显的错误与软件有关。Uber 根本没有训练无人车在人行横道之外识别行人


此外,Uber 选择关闭测试车辆内置的紧急制动系统,而测试车辆制造商沃尔沃后来得出结论:制动系统原本能大幅降低无人车撞上受害者的速度。


注:对此有专家表示,从技术上来说,在 Uber 的软件工作时关闭沃尔沃内置系统的决定是有意义的,因为对于汽车来说,拥有两个软件“主人”是不安全的。


这很大程度上解释了为什么尽管汽车检测到受害者,且有足够的时间来停车,却还是以每小时 38 英里的速度撞了上去。


另外调查显示:当汽车在撞击前 5.6 秒首次检测到受害者的存在时,竟然将其识别为车辆,随后又归类为“其他”,最后,无人车将她识别成了“自行车”。



NTSB 的报告显示:车辆每次尝试进行新的物体识别时,都会重新开始预测该物体的前进方向。所以直到撞击发生 1.2 秒钟后,系统才意识到车辆即将撞到行人,并且需要紧急刹车。这触发了 Uber 的紧急控制机制:系统在确认“已检测到危险”的同时会制动一秒钟,在此期间,安全操作员(Uber 最重要的也是最后一道防线)可以控制汽车并进行刹车。


但遗憾的是,事故发生时安全员并没有在看路。因此,在撞击发生前 0.2 秒,汽车发出了声音警报,安全员才抓住方向盘,接管了自动驾驶系统。可是为时已晚,致命的撞击还是发生了。


Uber 发言人在一份声明中表示:“对 2018 年事故感到遗憾”,并强调公司已对其安全计划进行了更改。根据 Uber 作为调查一部分提交给 NTSB 的文件,20 个月以来。Uber 已经改变了其安全驾驶员培训,现在每辆车安排两名安全操作员。该公司还改变了其安全团队的结构,并创建了一个系统,工作人员可以匿名报告安全问题。


NTSB 将于 11 月 19 日在华盛顿特区举行一次有关此事件的会议,届时调查人员将发布有关事故的全面报告,详细说明发生了什么以及哪一方需要承担什么责任。研究人员还将向联邦监管机构和 Uber 等公司提供建议,以便更好的构建防止此类事故的技术。

多家企业自动驾驶系统存在高危漏洞

近日伊利诺伊大学工程学院的一份报告也揭露了一些无人车系统存在的安全隐患,涉及百度、英伟达等多家企业的自动驾驶系统。


该小组分析了 2014 年至 2017 年提交的所有安全报告,其中涵盖 144 辆无人驾驶汽车,累计行驶里程达 111.6605 万英里。他们发现在行驶里程相同的情况下,人类驾驶汽车发生事故的机率只相当于无人驾驶汽车的四千分之一。这意味着无人驾驶技术无法以理想的速度处理紧急状况,人类驾驶员往往需要快速接手才能阻止事故的发生。


而在提高安全水平的努力中,研究人员与相关企业发现,他们很难在无人驾驶系统遭遇特定问题之前,通过预先训练的方式让软件学会如何解决这些问题。


此外,软件与硬件堆栈中的某些错误只会在特定驾驶场景下引发安全问题。换句话说,单纯在高速公路或者空旷 / 拥护的街区进行无人驾驶测试可能还不够,因为这些软件 / 硬件故障仍有可能在其他条件下引发问题。


在对一种已经公开的视音频技术(来自百度 Apollo 项目)进行测试时,该团队发现了超过 500 种实例,证明该软件在这些情况下可能无法解决问题进而导致事故发生

全自动驾驶何时能实现?

英伟达公司架构研究副总裁 Steve Keckler 曾表示:“无人驾驶汽车的安全性,决定着其能否在市场乃至整个社会当中取得成功。”


正是因为这些短时间内难以逾越的安全漏洞,才让全自动驾驶的实现时间一拖再拖。就连苹果公司联合创始人Steve Wozniak都发出感叹:不得不暂时放弃 L5 级自动驾驶。


但是仍然有一些消息令行业振奋。不少科技公司都加入到“造车大军”中来,国内外不少测试地区已经开始上线 Robotaxi 自动驾驶出租车服务;老牌汽车制造商也纷纷投入精力去做自动驾驶,大众汽车就在前不久宣布成立自动驾驶子公司,目前尚不知道这样的转变能给自动驾驶行业带来什么新动力,但是各方积极的态度还是能让人看到一些好的发展势头。


不过,热情当头也请不要忘了一年前的这一场教训。无人车不是玩具小车,乘客也好、行人也好,都是鲜活的生命,容不得半点马虎,只有解决了安全问题,才能让更多人相信无人车、选择无人车,在路况尤为复杂的中国,自动驾驶行业的“老司机”们还是要多下一些功夫才是。


2019-11-07 16:181830
用户头像
陈思 InfoQ编辑

发布了 576 篇内容, 共 277.2 次阅读, 收获喜欢 1301 次。

关注

评论

发布
暂无评论
发现更多内容

如何防止 Elasticsearch 服务 OOM ?

极限实验室

ES console Gateway easysearch

AmzTrends x TiDB Serverless:通过云原生改造实现全局成本降低 80%

PingCAP

数据库 数据分析 云原生 TiDB

DAPP去中心化交易质押分红系统开发模式案例

l8l259l3365

在Avalonia项目中使用MediatR和MS.DI库实现事件驱动通信

沙漠尽头的狼

计算机研0该卷大模型还是自学研发呢?

算法的秘密

Golang模糊测试实践

俞凡

golang 模糊测试

LED户外广告屏寿命的关键因素及解决方案

Dylan

广告 维护 系统维护 LED显示屏 户外LED显示屏

Amazon Q :企业级的对话智能导航

亚马逊云科技 (Amazon Web Services)

Vue3中的Hooks详解

秃头小帅oi

迷茫在森林中

少油少糖八分饱

读书 青春 爱情故事 村上春树 挪威的森林

2024中国云计算大分野:重回当年,还是走向未来?

脑极体

云计算

小红书笔记详情API:为开发者开启的新世界大门

技术冰糖葫芦

API 接口 API】

为什么说 TiDB 在线扩容对业务几乎没有影响

PingCAP

数据库 TiDB TiKV

今天来聊聊Java的基本特性

伤感汤姆布利柏

机器学习:解析未来的数据世界

快乐非自愿限量之名

CSM是什么意思?

源字节1号

软件开发 前端开发 后端开发 小程序开发

Programming Abstractions in C阅读笔记:p312-p326

codists

算法与数据结构

内含资料下载丨黄东旭:2024 现代应用开发关键趋势——降低成本、简化架构

PingCAP

数据库 TiDB AI技术 应用开发

掰扯掰扯需求分析:从工程到生活中的4个case

泊浮目

系统设计 需求分析

文心一言 VS 讯飞星火 VS chatgpt (206)-- 算法导论15.4 3题

福大大架构师每日一题

福大大架构师每日一题

读TiDB源码聊设计:引子

泊浮目

分布式数据库 TiDB HTAP

架构决策系列1:通用模型or专用模型

agnostic

模型设计 架构决策

Programming Abstractions in C阅读笔记:p308-p311

codists

独立站的SEO优化:提升网站排名的秘诀

技术冰糖葫芦

API 接口

国内主流AI大模型都是Python 开发的,国外AI大模型是什么语言开发的?为什么要用python?

算法的秘密

已解决org.springframework.web.multipart.MultipartException处理多部分请求异常的正确解决方法,亲测有效!!!

小明Java问道之路

Uber/Google Golang编码标准深度分析

俞凡

golang 最佳实践

QCN9274/Super WiFi 7: Explore the unlimited potential of next-generation networks

wallysSK

Uber无人车曝出致命漏洞:系统根本无法识别行人过马路_AI&大模型_陈思_InfoQ精选文章