产品战略专家梁宁确认出席AICon北京站,分享AI时代下的商业逻辑与产品需求 了解详情
写点什么

自动驾驶系统爆出高危漏洞,百度 Apollo、英伟达均已中枪

  • 2019-11-01
  • 本文字数:2009 字

    阅读完需:约 7 分钟

自动驾驶系统爆出高危漏洞,百度Apollo、英伟达均已中枪

在无人驾驶汽车的研发竞赛当中,安全性已经成为各家厂商证明自身实力的重要因素。近日,伊利诺伊大学香槟分校的研究人员正在利用人工智能(AI)与机器学习技术,通过软件与硬件的全方位改进提高无人驾驶技术的安全水平。

对百度 Apollo 和英伟达 DriveAV 等自动驾驶系统进行测试后,研究人员在 4 小时内发现了约 561 个关键安全故障,并表示:部分故障可能令系统在某些情况下,因为无法解决问题而导致驾驶事故


其中一位研发人员 Ravi Iyer 表示:“汽车本身的电气与机械组件极为复杂,再加上天气、路况、地形、交通模式以及照明条件等外部因素的影响,使得利用 AI 技术改进无人驾驶汽车变得非常困难。”


“虽然确有一定进展,但安全仍是困扰无人驾驶汽车的一大核心难题。”他补充道。


该小组开发出一套平台,能够帮助企业在复杂且不断变化的自主技术环境中更快、更经济地解决安全问题。为了进一步推动开发速度,他们也与三星、英伟达以及硅谷湾区的多家初创企业建立起合作伙伴关系。


这项研究工作之所以如此困难,一大原因在于无人驾驶汽车利用 AI 与机器学习技术将机械、电气与计算技术结合起来,从而构建起能够制定出实时驾驶决策的复杂系统。典型的无人驾机汽车实际上更像是一部带轮子的微型超级计算机,其中包含 50 多块处理器与加速器,运行超过 1 亿行代码,用以支持计算机视觉、规划以及其他机器学习任务。


其中车辆的传感器与自动驾驶堆栈(计算软件与硬件)格外受到关注。当汽车以每小时 70 英里的速度在高速公路上行驶时,任何故障都有可能给乘坐者带来重大安全风险。


Jha 解释道:“如果人类汽车驾驶员感受到车辆出现滑胎或者推头等问题,可以迅速调整操作方式以将车辆重新引导回安全的行驶状态。但是,如果没有针对这些情况进行明确的训练,无人驾驶汽车往往很难做出可预测的应对操作。遗憾的是,现实世界中存在着无数类似的意外情况。”


从传统角度来看,当人类在计算机或者智能手机上遇到软件故障时,最常见的处理方法就是关闭设备然后重新启动。但是,这类修复方法明显不适用于无人驾驶汽车,这是因为每一毫秒中出现的新状况都会直接影响结果,而响应过慢甚至有可能危害生命财产安全。过去几年中已经出现多起由无人驾驶汽车导致的事故,这也让整个社会开始高度关注 AI 系统的安全表现。


CSL 与计算机科学硕士研究生 Subho Banerjee 指出:“现行法规要求 Uber 及 Waymo 这样的企业在公共道路上对无人驾驶汽车进行测试,并每年向加利福尼亚州车管所上报车辆安全性情况。我们当然希望了解关于常见安全问题、汽车性能表现以及符合设计水平的理想安全指标的更多具体细节。”


该小组分析了 2014 年至 2017 年提交的所有安全报告,其中涵盖 144 辆无人驾驶汽车,累计行驶里程达 111.6605 万英里。他们发现在行驶里程相同的情况下,人类驾驶汽车发生事故的机率只相当于无人驾驶汽车的四千分之一。这意味着无人驾驶技术无法以理想的速度处理紧急状况,人类驾驶员往往需要快速接手才能阻止事故的发生。


而在提高安全水平的努力中,研究人员与相关企业发现,他们很难在无人驾驶系统遭遇特定问题之前,通过预先训练的方式让软件学会如何解决这些问题。


此外,软件与硬件堆栈中的某些错误只会在特定驾驶场景下引发安全问题。换句话说,单纯在高速公路或者空旷/拥护的街区进行无人驾驶测试可能还不够,因为这些软件/硬件故障仍有可能在其他条件下引发问题。


而且即使发生了错误,汽车可能也已经行驶了数十万英里。这么长的里程积累代表着研究人员投入的大量时间、金钱与精力,也使得整个评估过程效率极低。因此,该团队正尝试利用计算机仿真与人工智能来加快这一过程。


Jha 指出:“我们通过计算机仿真向无人驾驶汽车的软件及硬件堆栈当中注入错误,然后收集无人驾驶系统对于这些问题的响应数据。与人类不同,目前的人工智能技术还无法准确推理出不同驾驶场景下可能发生的错误。因此,我们需要大量数据来指导软件在遭遇软件或硬件问题时采取正确的应对措施。”


该研究小组目前正着手构建相关技术与工具,旨在最大程度模拟可能影响安全性的驾驶条件与问题。利用这套技术平台,他们得以发现大量紧急安全状况,以及可能由此导致的安全事故。这就避免了在真实道路上那种“撞大运”式的漫长测试,从而节约下可观的时间与金钱资源。


在对一种已经公开的视音频技术(来自百度Apollo项目)进行测试时,该团队发现了超过 500 种实例,证明该软件在这些情况下可能无法解决问题并导致事故。此类结果使得该小组的工作成果在行业内备受瞩目。他们目前正在为自己的测试技术申请专利,并计划尽快部署落地。如果一切顺利,研究人员们希望能有更多企业采用这项新技术模拟问题发现,进而提前解决这些潜在问题。


英伟达公司架构研究副总裁 Steve Keckler 表示:“无人驾驶汽车的安全性,决定着其能否在市场乃至整个社会当中取得成功。我们希望伊利诺伊州研究团队开发出的这项技术,能够帮助工程师们以较低的成本轻松开发出更安全的无人驾驶系统。”


2019-11-01 16:453185
用户头像
陈思 InfoQ编辑

发布了 576 篇内容, 共 277.6 次阅读, 收获喜欢 1301 次。

关注

评论

发布
暂无评论
发现更多内容

leetcode 105. Construct Binary Tree from Preorder and Inorder Traversal 从前序与中序遍历序列构造二叉树(中等)

okokabcd

LeetCode 算法与数据结构

【等保小知识】等级保护单项测评包括哪些项目?

行云管家

等保 等级保护 等级测评

以Vue为代表的提升小程序开发效率框架及工具

Geek_99967b

小程序

日均数亿推送稳定性监控实践

得物技术

Java 设计模式 重构 SLA 企业号九月金秋榜

MobTech 短信验证 Flutter插件

MobTech袤博科技

flutter ios android

开发者有话说|从心出发

胖虎不秃头

个人成长

面试突击85:为什么事务@Transactional会失效?

Java快了!

CISO 需考虑的五项 Kubernetes 安全措施

SEAL安全

Kubernetes 软件供应链安全

我的C/C++技术成长之路

Fire_Shield

程序人生 C/C++ 9月月更

前端面试5家公司,被经常问到的vue面试题

bb_xiaxia1998

Vue 前端

VoneBaaS平台让区块链服务触手可得

旺链科技

区块链 产业区块链 VoneBaaS 企业号九月金秋榜

Kyligence 入选 Gartner 指标中台创新洞察报告

Kyligence

指标管理 指标中台 数据分析管理

Github上标星103K的Spring Security实战手册,直接霸榜

程序知音

Java spring 程序员 spring security 后端技术

SQL就业市场最吃香!解密为什么SQL历经半个世纪仍经久不衰?

雨果

sql

英伟达NVIDIA为何可以在高性能计算GPU中处于不败地位?

GPU算力

Docker 的快速入门

Docker 9月月更

MySQL DDL执行方式-Online DDL介绍

京东科技开发者

MySQL 数据库 ddl DML Online DDL

多标签用户画像分析跑得快的关键在哪里?

跳楼梯企鹅

百度交易中台之资产系统架构浅析

百度Geek说

数据库 架构 资产管理

异步处理 —— RxJS Observable

掘金安东尼

前端 9月月更

物联网平台简介——产品功能类

阿里云AIoT

大数据 安全 物联网平台 物联网 IoT

【IT运维】如何有效保障服务器账号密码安全?

行云管家

运维 IT运维 行云管家 账号安全

从 OLAP 到指标中台 SaaS,关键指标赋能业务管理

Kyligence

OLAP Kyligence 数据管理 指标中台

VS Code摸鱼神器,让你快速开发AI模型

华为云开发者联盟

人工智能 企业号九月金秋榜

总结了一些vue相关的题目,话说今年前端面试难度好大

bb_xiaxia1998

Vue 前端

物联网平台功能介绍——产品功能类

阿里云AIoT

大数据 物联网平台 物联网 IoT 设备管理

Wiki在企业内部的应用和管理,如何构建有效的Wiki系统?

Baklib

从0到1项目搭建-框架搭建(附源码)

微枫Micromaple

架构 springboot Druid Mybatis-Plus 9月月更

微信小程序开发|宿主环境详解

陈橘又青

9月月更

技术分享| 快对讲融合视频监控功能设计

anyRTC开发者

监控 音视频 调度 快对讲 GB28181

一张图读懂「融云一站式全生态出海解决方案」

融云 RongCloud

白皮书 社交网络

自动驾驶系统爆出高危漏洞,百度Apollo、英伟达均已中枪_AI&大模型_伊利诺伊大学工程学院_InfoQ精选文章