写点什么

AI 技术如何为网络安全筑起高墙?百度技术沙龙第 94 期给你答案!

  • 2021-09-27
  • 本文字数:2171 字

    阅读完需:约 7 分钟

AI技术如何为网络安全筑起高墙?百度技术沙龙第94期给你答案!

随着人脸识别、自动驾驶等基于 AI 技术的应用逐渐落地,我们的日常生活便与 AI 技术如影随形。在安全领域,一方面,AI 技术正被逐渐地应用在异常检测、身份管理、安全运维等领域中,助力于网络安全创新;另一方面,信息泄露、人脸识别系统被攻击等网络安全问题也接踵而至,AI 也让网络安全问题成为隐忧。


2021 年 9 月 25 日,百度技术沙龙第 94 期成功落地北京,7 位来自百度安全的资深技术专家与业内知名学者齐聚一堂,围绕 AI 系统的安全风险与防御、应用 AI 技术解决安全问题两方面与到场开发者进行了一场高能对谈。


人脸识别系统被攻击,安全风险如何应对?


在人脸识别技术兴起以后,不仅人脸信息被滥用的问题经常被社会诟病,人脸识别系统被攻击的事件也时有发生。在活动现场,百度安全部主任架构师包沉浮从公众最关心的问题引入,针对对抗样本、深度伪造、篡改底层设备等几种常见的攻击方式给出了应对方案。



他表示,对抗样本攻击可以通过对抗训练、噪声过滤以及攻击检测等防御方式进行应对。其中,对抗训练即是在每次训练时,针对当前模型生成一系列对抗样本,再把对抗样本加到输入中继续迭代,以此生成的模型会更有防御效果。此外,还可以从根本上对模型结构做优化,百度研发的 AI 模型安全工具 AdvBox,便能够测试模型攻击并对模型鲁棒性进行评估。


除此以外,深度学习伪造技术使得人脸识别 AI 模型难以分辨真伪,让电信诈骗、信息泄露等事件频发,为我们的日常生活带来了极大的安全隐患。回归到技术手段上,我们该如何识别深度伪造技术呢?可将检测技术大致分为两类:一类是基于单张图片,通过视频抽帧提取数据,进而训练图像做二分类,或者通过抽取图像特征做二分类;另一类是基于多张图片的检测技术,比如利用 3D_CNN、RNN 提取帧间特征,对人脸序列进行分类和回归。


包沉浮提到,近期还出现了一类新型的人脸攻击方法,它直接在手机底层做篡改,让设备读取指定文件进而绕过人脸识别。此类攻击方式的应对方案则需要从设备、行为、算法三个层面综合思考:在设备层面,需要从系统库、特殊文件、APP 完整性、运行环境、网络环境等维度识别设备是否具有风险;在行为层面,可以通过探测触摸面积、屏幕点击力度、滑动等方面进行判别;在算法层面,则可利用 AI 鲁棒性测试、人脸算法深伪在线识别服务进行识别。


高级威胁对网络安全的挑战及应对措施


2010 年,震网行动通过网络攻击摧毁了伊朗浓缩铀工厂五分之一的离心机;2021 年 5 月 7 日,全美最大的油气输送管道运营商遭定向攻击... 透过这些事件,我们感知到了高级威胁对网络安全造成的巨大挑战。

那么,该如何应用 AI 技术来解决安全问题?百度研究院 IDL 资深研究员朱欤与百度云安全技术总监杜悦艺为到场开发者提供了一些可行性的建议。



因高级威胁有着隐蔽性强、持续性强、攻击手段多样化的特点,要求网络安全需要具备全面感知、持续监控、发现未知威胁以及发现可疑行为的能力。但传统安全检测方式在应对高级威胁时往往会面临重重难点:对未知攻击及 0day 攻击难以有效应对,并且规则过于僵化,黑客对攻击语句做编码、拼接、混淆等处理后,很容易绕过防护;其次,太严格的规则容易误杀正常业务流量,造成误判,太松散的规则容易被绕过,造成漏判。


杜悦艺认为传统的安全防护比较“理性”,深度学习则比较“感性”,大家各有擅长的领域,而深度学习相比则更适合解决“看起来像”的问题。利用深度学习技术可以发现 “看起来像”未知威胁或潜在的攻击者,而这也要求处置方式上可以更灵活,能够精细到人的阻断、限频、降速、标记追踪、重定向、诱捕反制等。他表示:“我们希望建立更智能的一体化系统,必须打破传统的产品壁垒,能够有机的整合各个位置不同层面的能力,再通过 AI 赋能,从而建立包括感知、行动、记忆、思考和神经反射等整体结合的系统。以“AI+ 数据”为核心驱动,形成全感知、自适应、自进化的系统,从而可以智能的进行安全运营。”


在自动攻防领域,来自清华大学网络研究院的张超副教授也给出了解决方案,他强调“攻与防是密不可分的,做攻击是为了更好地防御。”现在恶意代码的生命周期越来越短,变化手段越来越多,以前的杀毒软件是基于指纹的方式来查恶意代码,在当前环境下很容易被绕过去,利用自动漏洞工具可以自动做监测系统,它可以模拟攻击者干坏事,收集到指纹后便可提前布局做入侵检测。



在后半段的分享中,朱欤还就“深度学习的应用”展开了详细介绍。提及为什么需要深度学习算法,他认为深度学习算法在表征学习、序列行为建模以及数据和模型融合等方面有非常突出的优势。除此以外,还介绍了几种主流的深度学习算法,如 MLP(多层感知机)、CNN(卷积神经网络)、RNN(递归神经网络)、Transformer 以及 Hybrid Networks 如何应用到 UEBA 问题中。朱博士认为 Transformer 是目前比较先进的技术,其用于 UEBA 的最大优势是可以更好的建模序列关系。


当活动步入尾声,开发者还聚集在深度学习算法对行业影响的话题,与讲师展开了热烈的探讨。这场技术思辨结束后,百度技术沙龙北京站也正式落下了帷幕。百度技术沙龙作为老牌技术沙龙活动,由百度技术管理部组织举办,每月一期,旨在为开发者提供一个技术交流的平台,在携手共进的这十余年间,百度与开发者守望成长。尽管技术在变、行业在变,开发者的那份极客精神却始终未变。相信在大家的支持与见证之下,百度技术沙龙将持续为开发者带来更多惊喜!

2021-09-27 15:292451

评论

发布
暂无评论
发现更多内容

华为云,助力企业快速省心过等保

科技之光

你的下一个电脑桌面,为何是云桌面?

科技之光

万物皆可DAO?一文带你全方位解读DAO类型

One Block Community

区块链 开发者 治理 DAO web3、

华为云灾备服务,如何守护云上数据

科技之光

打造全栈安全防护体系,华为云等保合规解决方案帮企业30天过等保

科技之光

2022年10月《中国数据库行业分析报告》重磅发布!精彩抢先看

墨天轮

数据库 oceanbase Milvus 向量计算 向量数据库

Docker | 容器数据卷详解

甜点cc

Docker 前端 10月月更

80Gbps 双向带宽,120Gbps 疾速传输,英特尔携新一代 Thunderbolt 引领行业快步向前

科技之家

2022 云栖大会 | 一体化大数据智能峰会预约开启

阿里云大数据AI技术

大数据 阿里云 开源

git-secret:在 Git 存储库中加密和存储密钥(下)

SEAL安全

git 加密 makefile 密钥管理 10月月更

8K AV1视频解码大战:Intel神奇、NVIDIA差点、AMD无语

科技之家

华为云灾备解决方案,助力企业高效构建安全合规云灾备系统

科技之光

企业信息安全受威胁?且看华为云灾备如何破解

科技之光

全球累计用户达300万+,华为云桌面综合体验优秀!

科技之光

2022 云栖大会 | 开源人说预约:听百味技术人生,品激荡开源江湖

阿里云大数据AI技术

阿里云 开源

十年磨一剑,华为云数据灾备解决方案为你解决后顾之忧

科技之光

技术强、资源多,华为云等保合规解决方案助力企业快速过等保!

科技之光

如何通过C#/VB.NET重命名Excel表格并设置选项卡颜色

在下毛毛雨

C# .net Excel 重命名工作表

华为云,中小型企业的等保安全专家

科技之光

华为云CDN使能千行百业,业务价值不断凸显!

科技之光

深度解决企业传统办公痛点,华为云桌面使能云上办公!

科技之光

可适配多企业需求,华为云等保合规安全解决方案选择灵活!

科技之光

云堡垒机相关概念汇总说明-行云管家

行云管家

云计算 网络安全 数据安全 堡垒机

js对象和原型、原型链的关系

hellocoder2029

JavaScript

诺亚财富 X Hologres : 统一OLAP分析引擎,全面打造金融数字化分析平台

阿里云大数据AI技术

大数据 数据分析 企业号十月 PK 榜

及时恢复,华为云灾备数据解决方案让你无忧办公

科技之光

Wallys/IPQ4018/IPQ4028 2x2 2.4Ghz 2x2 5Ghz Industrial-grade //wifi5 Support 11ABGN/AC

wallys-wifi6

IPQ4018 IPQ4028

JavaScript知识点总结

木偶

前端 js 10月月更

何为云管平台?有什么作用?哪家好?

行云管家

云计算 云主机 云管理 云成本

AI技术如何为网络安全筑起高墙?百度技术沙龙第94期给你答案!_AI&大模型_郑思宇_InfoQ精选文章