本系列文章最初发表在 TowardsDataScience 博客，经原作者 Ensar Seker 授权，InfoQ 中文站翻译并分享。

从自主工具到虚拟助手，从聊天机器人到人脸/物体识别，近年来，机器学习已经取得了长足的进步。这是事实。那网络安全呢？《网络安全的未来是否掌握在人工智能手中？》系列文章将深入探讨网络安全与AI的关系，本文是系列专栏的第三篇，也是最后一篇。

AI提升网络防御系统安全级别

可能的网络防御系统应该至少提供三个级别的网络安全。

第一级别包括传统的静态网络防御机制，如身份认证、密码保护、访问控制、网络过滤等。第二级别包括主动的网络防御机制，如信息收集、安全评估、网络状态监控和攻击。第三个级别对应于网络防御管理，对网络状态进行整体评估，选择适当或最佳的防御机制，以及它们的适应性。

预警、入侵检测和防御系统，包括人工智能技术，在确保这些网络安全水平方面发挥着重要作用。

预警系统（Early Warning Systems，EWS）用于防范网络攻击，并尽快作出响应。然而，由于随着新技术的发展，网络威胁的级别也在不断升级。与传统的纯数据包检测方法不同，新的预警系统架构需要收集、分析、关联数据，同时还需要近实时地检测、分析和响应威胁模型。这都是公众已经听说过的。这一需求包括虚拟传感器的开发、复杂的数据关联、用于网络行为分析的新逻辑模型、学习算法，以及能够提供可伸缩性、可靠性和灵活性的概念和新方法的开发，特别是在 IPv6 网络中。

在预警和入侵检测中使用人工智能的目的是开发一种先进的智能帮助系统，用于在局域网和广域网中尽早检测来自互联网的攻击。在这一框架内，还应考虑广泛使用的互联网协议，如 FTP、SMTP 和 HTTP，以及较新的协议，如 SOAP 等。

人工智能在网络防御领域的应用需要解决的主要问题是，现有的技术没有达到理想的水平，应该开发和调整哪些人工智能方法，才能最大限度地减少人为因素，而人为因素被认为是网络防御中最薄弱的环节。

利用人工智能进行网络攻击

人工智能的滥用可能以多种方式威胁安全：

对数字安全的威胁；
对人身安全的威胁；
对社会/经济/政治安全的威胁。

社会工程攻击的自动化：自然语言处理工具能够模仿受害者的写作放歌，因此，人工智能系统收集在线信息，以创建可能会被自动点击的个性化恶意网站/电子邮件/链接。

漏洞发现的自动化：过去的代码漏洞模型有助于加速发现新漏洞。

高级黑客攻击：人工智能可以用在黑客攻击的许多方面。例如，人工智能提供了自动化工具，可以改进目标选择和有限排序，避免被检测，并创造性地响应目标行为的变化。它还可以模仿类似人类的行为，将目标系统导向到一个不那么安全的状态。

勒索软件任务的自动化：人工智能技术可以自动化各种任务，如与勒索软件受害者的对话和支付过程。

人工智能在应用程序中的利用：人工智能用于创建数据中毒攻击或后门。

Flock 攻击：分布式自主机器人系统网络允许监控大区域并执行快速、协调的攻击。

针对无人机和无人车的攻击：由于网络攻击，对基于人工智能的自主无人机和无人车的控制构成了重大威胁。

假消息：当图像处理技术的最新发展与自然语言创造技术相结合时，公众试图通过制作高度逼真的国家领导人视频来误导他们，这些领导人似乎正在发表他们实际上从未做过的演讲和评论。

个性化假情报和影响活动：基于人工智能的社交网络分析可以识别关键因素，以接近（恶意）提议或目标假情报。

参考来源：

[1] 《网络安全分析的逻辑程序设计方法》（A Logic-programming Approach to Network Security Analysis），X. Ou，博士论文，普林斯顿大学，2005 年。

[2] 《国土安全网络攻击与防御的多智能代理建模与仿真》（Multi-agent Modelling and Simulation of Cyber-Attacks and Cyber-Defense for Homeland Security），I. Kotenko，IEEE 智能锁护具采集和先进计算系统国际研讨会（IEEE International Workshop on Intelligent Data Acquisition and Advanced Computing Systems）：《技术与应用》（ Technology and Applications），2007 年。

[3] 《对于未来预警系统的要求：未来互联网中的网络防御》（Requirements for a Future EWS — Cyber Defence in the Internet of the Future），M. Golling、B. Stelte，第三届网络冲突国际会议（International Conference on Cyber Conflict），CCD COE 出版物，2011 年。

作者介绍：

Ensar Seker，安全研究员。

原文链接：

https://towardsdatascience.com/is-the-future-of-cyber-security-in-the-hands-of-artificial-intelligence-ai-3-60a148334245

延伸阅读：

《网络安全的未来是否掌握在 AI 手中（一）| 专栏》

《网络安全的未来是否掌握在 AI 手中（二） | 专栏》

创作场景

网络安全的未来是否掌握在 AI 手中（三） | 专栏