AI 时代的安全攻防新战场与对抗新利器

AI 作为一种持续深入发展应用的颠覆性技术，正在推动着各行各业的发展。然而，AI 技术在引领产业智能化升级、行业创新发展，提升居民生活品质的同时，其广泛应用也带来了很多新的风险。一方面，AI 技术本身如果存在安全问题，在人脸识别、自动驾驶等场景下，会对隐私、财产、甚至生命造成威胁；另一方面，AI 技术本身也有可能遭到不法分子的恶意利用，成为新型网络黑灰产手段。值得庆幸的是，我们可以通过技术手段有效应对这些挑战。

与此同时，AI 技术本身也为网络安全带来了新的机会，它正在被越来越多地应用于漏洞挖掘和利用、网络威胁检测等领域中。那么，如何利用 AI 技术来提高漏洞挖掘和利用的效率？深度学习算法在网络威胁检测过程中又是如何应用的？

2021 年 9 月 25 日（星期六） 13:00-16:30，百度技术沙龙第 94 期迎来了《百度 AI 安全：AI 时代的攻防新战场与对抗新利器》的主题分享。本期沙龙邀请到了百度安全资深技术专家及业内知名学者，他们将就“人脸识别安全”“模型安全与隐私”“漏洞挖掘与利用”“威胁检测”等技术要点进行全方位解读。

详细介绍

嘉宾介绍：包沉浮

百度安全部主任架构师，主要负责百度公司安全攻防体系建设，以及 AI 安全方向的探索和应用落地。

演讲议题：《AI 安全对抗在人脸识别中的应用》

人脸识别技术是深度神经网络的一个主要应用，在身份认证、查找等领域得到广泛使用，但其模型及系统的安全性确不断受到挑战。本次分享将介绍人脸识别面临的安全风险，并探讨相关问题的解决办法。

嘉宾介绍：Hawkeye

百度安全部资深安全研究员，主要研究方向为自动驾驶安全、深度学习对抗攻击及防御、AI 模型鲁棒性的评测与验证、可解释性 AI 等。

演讲议题：《自动驾驶环境中的 AI 鲁棒性评测》

工业界在自动驾驶 safety 方面的工作 survey；自动驾驶 AI 模块抗干扰能力现状，以及对自动驾驶 safety 的影响；AI 鲁棒性检测 case study（目标识别，车道线，单个模型的检测）；自动驾驶整车 safety 的 end2end 评估。

嘉宾介绍：洪爵

百度安全部资深研发工程师 南京大学计算机系软件与理论博士，从事数据安全、隐私保护前沿研究与应用工作。

演讲议题：《AI 模型的隐私泄露：风险、评估与防护》

在人工智能技术日益普及的今天，AI 算法模型面临的隐私泄露风险也逐渐突显，主要表现为模型训练所用的数据信息存在被推断甚至被还原的可能性，导致敏感信息泄露。同时，模型本身在使用过程中也存在被窃取的可能性，导致核心算法资产损失。本次分享将围绕百度开源产品 PaddleSleeve，介绍百度安全在 AI 模型隐私风险研究、评估与防护技术方面的工作。

嘉宾介绍：张超

清华大学网络研究院副教授（博导）、蓝莲花战队教练、获得清华大学学术新人奖、某海外人才计划、MIT TR35 China、求是杰出青年学者、中国科协青托等奖励和荣誉。主要研究软件和系统安全，在国际四大安全会议发表论文近 20 篇。

演讲议题：《自动漏洞利用技术研究进展》

自动漏洞利用技术（AEG）通过自动化手段评估漏洞可利用性甚至生成利用工具，尝试解决漏洞攻防实践中最硬核的任务，降低对安全分析人员的要求。该技术已成为近年来的智能攻防竞赛（例如 DARPA CGC）中最核心的挑战，是未来网络空间主动防御的重要支撑。本次报告将分享该领域的研究进展与面临的挑战和机遇。

嘉宾介绍：Alt

百度资深安全研究员，致力于隐私计算、系统安全、移动安全等多领域的攻防技术研究；主导设计并实现了多个数据安全、移动安全解决方案，应用到实际产品中。

演讲议题：《自动化挖掘 AI 框架安全风险》

出于数据规模、训练成本的考虑，越来越多的 AI 应用开发者选择使用第三方模型构建应用。因此，恶意模型作为攻击向量带来的安全问题不容忽视。此外，由于 AI 框架的复杂性，传统基于输入变异的 Fuzzing 手段无法有效对模型网络、算子进行有效的测试。分享使用模型变异的方法对主流 AI 框架进行模糊测试的经验以及相关成果。 

嘉宾介绍：朱欤

百度研究院 IDL 资深研究员，拥有美国硅谷一线经验资深人工智能专家，现在百度研究院负责深度学习算法研发和项目落地。

嘉宾介绍：杜悦艺

资深研发工程师、百度云安全技术总监。十余年安全从业经验，参与了多个国家标准评审，有多个安全相关专利，帮助百度云从零建设了云上安全体系。

演讲议题：《基于深度学习的高级威胁检测技术》

本次分享将介绍最新的深度学习技术在 UEBA 和 Insider Threat Detection 问题的研究现状和相关进展，主要从算法的角度讲解几类不同深度学习算法在安全检测问题中的原理和实际应用。