写点什么

自动驾驶系统爆出高危漏洞,百度 Apollo、英伟达均已中枪

  • 2019-11-01
  • 本文字数:2009 字

    阅读完需:约 7 分钟

自动驾驶系统爆出高危漏洞,百度Apollo、英伟达均已中枪

在无人驾驶汽车的研发竞赛当中,安全性已经成为各家厂商证明自身实力的重要因素。近日,伊利诺伊大学香槟分校的研究人员正在利用人工智能(AI)与机器学习技术,通过软件与硬件的全方位改进提高无人驾驶技术的安全水平。

对百度 Apollo 和英伟达 DriveAV 等自动驾驶系统进行测试后,研究人员在 4 小时内发现了约 561 个关键安全故障,并表示:部分故障可能令系统在某些情况下,因为无法解决问题而导致驾驶事故


其中一位研发人员 Ravi Iyer 表示:“汽车本身的电气与机械组件极为复杂,再加上天气、路况、地形、交通模式以及照明条件等外部因素的影响,使得利用 AI 技术改进无人驾驶汽车变得非常困难。”


“虽然确有一定进展,但安全仍是困扰无人驾驶汽车的一大核心难题。”他补充道。


该小组开发出一套平台,能够帮助企业在复杂且不断变化的自主技术环境中更快、更经济地解决安全问题。为了进一步推动开发速度,他们也与三星、英伟达以及硅谷湾区的多家初创企业建立起合作伙伴关系。


这项研究工作之所以如此困难,一大原因在于无人驾驶汽车利用 AI 与机器学习技术将机械、电气与计算技术结合起来,从而构建起能够制定出实时驾驶决策的复杂系统。典型的无人驾机汽车实际上更像是一部带轮子的微型超级计算机,其中包含 50 多块处理器与加速器,运行超过 1 亿行代码,用以支持计算机视觉、规划以及其他机器学习任务。


其中车辆的传感器与自动驾驶堆栈(计算软件与硬件)格外受到关注。当汽车以每小时 70 英里的速度在高速公路上行驶时,任何故障都有可能给乘坐者带来重大安全风险。


Jha 解释道:“如果人类汽车驾驶员感受到车辆出现滑胎或者推头等问题,可以迅速调整操作方式以将车辆重新引导回安全的行驶状态。但是,如果没有针对这些情况进行明确的训练,无人驾驶汽车往往很难做出可预测的应对操作。遗憾的是,现实世界中存在着无数类似的意外情况。”


从传统角度来看,当人类在计算机或者智能手机上遇到软件故障时,最常见的处理方法就是关闭设备然后重新启动。但是,这类修复方法明显不适用于无人驾驶汽车,这是因为每一毫秒中出现的新状况都会直接影响结果,而响应过慢甚至有可能危害生命财产安全。过去几年中已经出现多起由无人驾驶汽车导致的事故,这也让整个社会开始高度关注 AI 系统的安全表现。


CSL 与计算机科学硕士研究生 Subho Banerjee 指出:“现行法规要求 Uber 及 Waymo 这样的企业在公共道路上对无人驾驶汽车进行测试,并每年向加利福尼亚州车管所上报车辆安全性情况。我们当然希望了解关于常见安全问题、汽车性能表现以及符合设计水平的理想安全指标的更多具体细节。”


该小组分析了 2014 年至 2017 年提交的所有安全报告,其中涵盖 144 辆无人驾驶汽车,累计行驶里程达 111.6605 万英里。他们发现在行驶里程相同的情况下,人类驾驶汽车发生事故的机率只相当于无人驾驶汽车的四千分之一。这意味着无人驾驶技术无法以理想的速度处理紧急状况,人类驾驶员往往需要快速接手才能阻止事故的发生。


而在提高安全水平的努力中,研究人员与相关企业发现,他们很难在无人驾驶系统遭遇特定问题之前,通过预先训练的方式让软件学会如何解决这些问题。


此外,软件与硬件堆栈中的某些错误只会在特定驾驶场景下引发安全问题。换句话说,单纯在高速公路或者空旷/拥护的街区进行无人驾驶测试可能还不够,因为这些软件/硬件故障仍有可能在其他条件下引发问题。


而且即使发生了错误,汽车可能也已经行驶了数十万英里。这么长的里程积累代表着研究人员投入的大量时间、金钱与精力,也使得整个评估过程效率极低。因此,该团队正尝试利用计算机仿真与人工智能来加快这一过程。


Jha 指出:“我们通过计算机仿真向无人驾驶汽车的软件及硬件堆栈当中注入错误,然后收集无人驾驶系统对于这些问题的响应数据。与人类不同,目前的人工智能技术还无法准确推理出不同驾驶场景下可能发生的错误。因此,我们需要大量数据来指导软件在遭遇软件或硬件问题时采取正确的应对措施。”


该研究小组目前正着手构建相关技术与工具,旨在最大程度模拟可能影响安全性的驾驶条件与问题。利用这套技术平台,他们得以发现大量紧急安全状况,以及可能由此导致的安全事故。这就避免了在真实道路上那种“撞大运”式的漫长测试,从而节约下可观的时间与金钱资源。


在对一种已经公开的视音频技术(来自百度Apollo项目)进行测试时,该团队发现了超过 500 种实例,证明该软件在这些情况下可能无法解决问题并导致事故。此类结果使得该小组的工作成果在行业内备受瞩目。他们目前正在为自己的测试技术申请专利,并计划尽快部署落地。如果一切顺利,研究人员们希望能有更多企业采用这项新技术模拟问题发现,进而提前解决这些潜在问题。


英伟达公司架构研究副总裁 Steve Keckler 表示:“无人驾驶汽车的安全性,决定着其能否在市场乃至整个社会当中取得成功。我们希望伊利诺伊州研究团队开发出的这项技术,能够帮助工程师们以较低的成本轻松开发出更安全的无人驾驶系统。”


2019-11-01 16:453144
用户头像
陈思 InfoQ编辑

发布了 576 篇内容, 共 275.5 次阅读, 收获喜欢 1301 次。

关注

评论

发布
暂无评论
发现更多内容

运用事件与定时器实现字幕滚动效果(Qt开发)

芯动大师

Coral Finance 将为 Zepoch 节点空投,Nautilus生态空投季开启

BlockChain先知

年内实现全面自动驾驶?快来恶补一下自动驾驶技术吧!

博文视点Broadview

澜舟科技荣膺世界经济论坛评选的2023年度技术先锋初创企业

澜舟孟子开源社区

2023-07-25:你驾驶出租车行驶在一条有 n 个地点的路上 这 n 个地点从近到远编号为 1 到 n ,你想要从 1 开到 n 通过接乘客订单盈利。你只能沿着编号递增的方向前进,不能改变方向 乘

福大大架构师每日一题

福大大架构师每日一题

openGauss数据库荣获中国计算机学会(CCF)科技成果特等奖

daydayup

提示工程101|与 AI 交谈的技巧和艺术

SEAL安全

人工智能 AI LLM 提示工程 企业号 7 月 PK 榜

Java Web应用开发案例|使用监听器统计Web站点的在线用户数

TiAmo

Java web 用户统计 开发案例

Last Week in Milvus

Zilliz

非结构化数据 Milvus Zilliz 向量数据库

海量数据×桂林银行 | 满足金融用户稳健周密需求,做好国内数据库演进的实践担当 openGauss

daydayup

openGauss数据库源码解析系列文章——事务机制源码解析(三)

daydayup

openGauss 开源社区再次入选“科创中国”开源创新榜

daydayup

openGauss数据库源码解析系列文章——事务机制源码解析(一)

daydayup

从电商指标洞察到运营归因,只需几句话?AI 数智助理准备好了!

Kyligence

数据分析 数智助理

数字化转型与架构-规划篇|殊途同归的解决方案框架

数字随行

数字化转型

出海新模式:从蔚赫信息收购德国博世LABCAR HiL 技术看如何通过海外IP并购实现全球化布局

千流出海

千流出海

Hello,Vector DB|可能是最易上手的 Faiss 教程

Zilliz

Faiss Milvus Zilliz 向量数据库 zillizcloud

海量数据×桂林银行 | 满足金融用户稳健周密需求,做好国内数据库演进的实践担当#openGauss

daydayup

滴滴是如何落地eBPF技术的?

滴滴技术

云原生 eBPF&Linux

Ubuntu 18.04系统编译安装Redis教程。

百度搜索:蓝易云

redis 云计算 Linux ubuntu 运维

TypeScript 玩转类型操作之字符串处理能力

小乌龟快跑

JavaScript typescript 类型推断

使用show effective grants查看权限

GreatSQL

greatsql greatsql社区

UE像素流送是什么?像素流推流原理介绍

3DCAT实时渲染

云流化 实时渲染云

Oracle单表数据量大的优化思路

zhengzai7

oracle 分区

Nautilus Chain:主权模块化区块链的早期实践

西柚子

openGauss数据库源码解析系列文章——事务机制源码解析(四)

daydayup

Burp Suite 几个基本工具的使用

QE_LAB

渗透测试 测试工具 安全测试

Docker学习路线11:Docker命令行

小万哥

Java c++ Python Go Docker

openGauss加入 CNCF Landscape

daydayup

Deel、Whatnot、Nowports,YC 净收入最高公司生意秘诀

B Impact

Ubuntu 18.04系统编译安装Memcached教程。

百度搜索:蓝易云

memcached 云计算 Linux ubuntu 运维

自动驾驶系统爆出高危漏洞,百度Apollo、英伟达均已中枪_AI&大模型_伊利诺伊大学工程学院_InfoQ精选文章