QCon北京「鸿蒙专场」火热来袭!即刻报名,与创新同行~ 了解详情
写点什么

AI 技术如何为网络安全筑起高墙?百度技术沙龙第 94 期给你答案!

  • 2021-09-27
  • 本文字数:2171 字

    阅读完需:约 7 分钟

AI技术如何为网络安全筑起高墙?百度技术沙龙第94期给你答案!

随着人脸识别、自动驾驶等基于 AI 技术的应用逐渐落地,我们的日常生活便与 AI 技术如影随形。在安全领域,一方面,AI 技术正被逐渐地应用在异常检测、身份管理、安全运维等领域中,助力于网络安全创新;另一方面,信息泄露、人脸识别系统被攻击等网络安全问题也接踵而至,AI 也让网络安全问题成为隐忧。


2021 年 9 月 25 日,百度技术沙龙第 94 期成功落地北京,7 位来自百度安全的资深技术专家与业内知名学者齐聚一堂,围绕 AI 系统的安全风险与防御、应用 AI 技术解决安全问题两方面与到场开发者进行了一场高能对谈。


人脸识别系统被攻击,安全风险如何应对?


在人脸识别技术兴起以后,不仅人脸信息被滥用的问题经常被社会诟病,人脸识别系统被攻击的事件也时有发生。在活动现场,百度安全部主任架构师包沉浮从公众最关心的问题引入,针对对抗样本、深度伪造、篡改底层设备等几种常见的攻击方式给出了应对方案。



他表示,对抗样本攻击可以通过对抗训练、噪声过滤以及攻击检测等防御方式进行应对。其中,对抗训练即是在每次训练时,针对当前模型生成一系列对抗样本,再把对抗样本加到输入中继续迭代,以此生成的模型会更有防御效果。此外,还可以从根本上对模型结构做优化,百度研发的 AI 模型安全工具 AdvBox,便能够测试模型攻击并对模型鲁棒性进行评估。


除此以外,深度学习伪造技术使得人脸识别 AI 模型难以分辨真伪,让电信诈骗、信息泄露等事件频发,为我们的日常生活带来了极大的安全隐患。回归到技术手段上,我们该如何识别深度伪造技术呢?可将检测技术大致分为两类:一类是基于单张图片,通过视频抽帧提取数据,进而训练图像做二分类,或者通过抽取图像特征做二分类;另一类是基于多张图片的检测技术,比如利用 3D_CNN、RNN 提取帧间特征,对人脸序列进行分类和回归。


包沉浮提到,近期还出现了一类新型的人脸攻击方法,它直接在手机底层做篡改,让设备读取指定文件进而绕过人脸识别。此类攻击方式的应对方案则需要从设备、行为、算法三个层面综合思考:在设备层面,需要从系统库、特殊文件、APP 完整性、运行环境、网络环境等维度识别设备是否具有风险;在行为层面,可以通过探测触摸面积、屏幕点击力度、滑动等方面进行判别;在算法层面,则可利用 AI 鲁棒性测试、人脸算法深伪在线识别服务进行识别。


高级威胁对网络安全的挑战及应对措施


2010 年,震网行动通过网络攻击摧毁了伊朗浓缩铀工厂五分之一的离心机;2021 年 5 月 7 日,全美最大的油气输送管道运营商遭定向攻击... 透过这些事件,我们感知到了高级威胁对网络安全造成的巨大挑战。

那么,该如何应用 AI 技术来解决安全问题?百度研究院 IDL 资深研究员朱欤与百度云安全技术总监杜悦艺为到场开发者提供了一些可行性的建议。



因高级威胁有着隐蔽性强、持续性强、攻击手段多样化的特点,要求网络安全需要具备全面感知、持续监控、发现未知威胁以及发现可疑行为的能力。但传统安全检测方式在应对高级威胁时往往会面临重重难点:对未知攻击及 0day 攻击难以有效应对,并且规则过于僵化,黑客对攻击语句做编码、拼接、混淆等处理后,很容易绕过防护;其次,太严格的规则容易误杀正常业务流量,造成误判,太松散的规则容易被绕过,造成漏判。


杜悦艺认为传统的安全防护比较“理性”,深度学习则比较“感性”,大家各有擅长的领域,而深度学习相比则更适合解决“看起来像”的问题。利用深度学习技术可以发现 “看起来像”未知威胁或潜在的攻击者,而这也要求处置方式上可以更灵活,能够精细到人的阻断、限频、降速、标记追踪、重定向、诱捕反制等。他表示:“我们希望建立更智能的一体化系统,必须打破传统的产品壁垒,能够有机的整合各个位置不同层面的能力,再通过 AI 赋能,从而建立包括感知、行动、记忆、思考和神经反射等整体结合的系统。以“AI+ 数据”为核心驱动,形成全感知、自适应、自进化的系统,从而可以智能的进行安全运营。”


在自动攻防领域,来自清华大学网络研究院的张超副教授也给出了解决方案,他强调“攻与防是密不可分的,做攻击是为了更好地防御。”现在恶意代码的生命周期越来越短,变化手段越来越多,以前的杀毒软件是基于指纹的方式来查恶意代码,在当前环境下很容易被绕过去,利用自动漏洞工具可以自动做监测系统,它可以模拟攻击者干坏事,收集到指纹后便可提前布局做入侵检测。



在后半段的分享中,朱欤还就“深度学习的应用”展开了详细介绍。提及为什么需要深度学习算法,他认为深度学习算法在表征学习、序列行为建模以及数据和模型融合等方面有非常突出的优势。除此以外,还介绍了几种主流的深度学习算法,如 MLP(多层感知机)、CNN(卷积神经网络)、RNN(递归神经网络)、Transformer 以及 Hybrid Networks 如何应用到 UEBA 问题中。朱博士认为 Transformer 是目前比较先进的技术,其用于 UEBA 的最大优势是可以更好的建模序列关系。


当活动步入尾声,开发者还聚集在深度学习算法对行业影响的话题,与讲师展开了热烈的探讨。这场技术思辨结束后,百度技术沙龙北京站也正式落下了帷幕。百度技术沙龙作为老牌技术沙龙活动,由百度技术管理部组织举办,每月一期,旨在为开发者提供一个技术交流的平台,在携手共进的这十余年间,百度与开发者守望成长。尽管技术在变、行业在变,开发者的那份极客精神却始终未变。相信在大家的支持与见证之下,百度技术沙龙将持续为开发者带来更多惊喜!

2021-09-27 15:292442

评论

发布
暂无评论
发现更多内容

直击灵魂!美团大牛手撸并发原理笔记,由浅入深剖析JDK源码

Java 编程 架构 面试 程序人生

拥抱云原生,华为云GaussDB全新助力金融行业数字化转型

华为云数据库小助手

GaussDB GaussDB(for openGauss) 华为云数据库

硬件Scrum指南

AmyGuo

Scrum 敏捷开发 硬件架构 硬件开发‘ 硬件敏捷

成为一名月薪2万的web安全工程师需要掌握哪些技能??

网络安全学海

黑客 网络安全 信息安全 渗透测试 WEB安全

使用Tapdata一步搞定关系型数据库到MongoDB的战略迁移

tapdata

陌陌和它的解药,聊聊出海社交产品的思路

拍乐云Pano

社交APP出海 社交APP 泛娱乐出海

TDSQL数据同步和备份

腾讯云数据库

数据库 tdsql

力扣前400题解答笔记,全被字节大神整理到了这份文档里

Java 编程 架构 面试 程序人生

2021西部云安全峰会召开:“云安全优才计划”发布,腾讯云安全攻防矩阵亮相

腾讯安全云鼎实验室

云安全 峰会

To B的软件产品死结怎么解?

刘华Kenneth

tob产品 客户服务

考试试卷redis存储详细设计

小智

架构训练营

J2PaaS低代码开源版,10月1号即将上线,企业数字化转型优选!

J2PaaS低代码平台

低代码 零代码 开发工具

写给“后浪”们的职业生涯规划建议

轻口味

android 生涯规划 音视频 9月日更

消息队列:Kafka Consumer源码解读

正向成长

kafka

双碳目标带来的机遇与挑战

石云升

新能源革命 碳中和 碳达峰 9月日更

腾讯云TDSQL-C云原生数据库技术

腾讯云数据库

数据库 tdsql

腾讯云TDSQL助力金融核心系统数字化转型

腾讯云数据库

数据库 tdsql

斯图飞腾Stratifyd亮相Smart Retail,AI赋能零售新增长

地铁3D可视化,让一切尽在掌握

ThingJS数字孪生引擎

可视化

人工智能、机器学习和数据工程 InfoQ 趋势报告 - 2021 年 8 月

Regan Yue

人工智能 9月日更 数据工程 趋势报告

从浏览器地址栏输入url到显示页面的步骤

Augus

浏览器 9月日更

喜讯 | 拍乐云创始人赵加雨荣获「2021企业数智化转型升级先锋人物」奖

拍乐云Pano

音视频 数智化

云计算科普:Pets(宠物)和Cattle(牲口)傻傻分不清楚?

刘华Kenneth

云计算 架构 云技术

2021年金九银十必问的1000道Java面试题及答案整理

Java 架构 面试 程序人生 编程语言

阿里资深架构师整理分享全套Java核心技术面试题及答案

Java 编程 架构 面试 程序人生

MyBatis Plus 批量数据插入功能,yyds!

王磊

mybatis springboot

设计千万级学生管理系统的考试试卷存储方案

缘分呐

架构设计实战

2021中国规模化敏捷大会(早鸟票倒计时)

AmyGuo

DevOps 敏捷开发 Scrum精髓 硬件敏捷 规模化敏捷

读懂Redis源码,我总结了这7点心得

Java redis 架构 面试 后端

阿里大牛再写传奇:并发原理JDK源码手册GitHub下载量已破百万

Java 编程 架构 面试 程序人生

第4章-《Linux一学就会》- vim编辑器和恢复ext4下误删文件-Xmanager工具

学神来啦

vim Linux 运维 VI

AI技术如何为网络安全筑起高墙?百度技术沙龙第94期给你答案!_AI&大模型_郑思宇_InfoQ精选文章