Page 143 - 计算机技术与网络安全研究

第四章 网络信息安全应对

确保自动修改代码逃避反病毒产品检测且功能不受影响。2018 年，有研究利用
深度强化学习网络提出了一种基于对抗样本生成的黑盒攻击方法，用于攻击静态
的可执行文件（PE）杀毒引擎。这是第一个可以产生对抗性 PE 恶意代码的研究
工作，模拟真实攻击的成功率达到 90%。随着人工智能在对抗机器学习领域的拓
宽应用与进化，可以预见，基于生成对抗网络的逃逸攻击会成为对抗机器学习方

面的重要方向和技术趋势。此外，在传统恶意代码被发布后，攻击目标和意图往
往是确定的，可通过逆向工程、网络监听等方法分析得知。在人工智能技术的助
力下，恶意代码通过内嵌深度神经网络模型，可在代码开源的前提下依然确保攻

击目标、攻击意图、高价值载荷的高度机密性，由此显著提升攻击的隐蔽性。此
类攻击的代表性成果是 IBM 公司的研究人员开发的一款“具有高度针对性和躲
避性”的由人工智能驱动的攻击工具 DeepLocker。
4. 自动化漏洞挖掘与利用技术
自动化漏洞挖掘与利用指在无人工干预的基础上，自动化挖掘软件内部缺

陷并利用该缺陷使软件实现非预期功能。2013 年，DARPA 发起了 CGC 项目，旨
在实现漏洞挖掘、分析、利用、修复等环节的完全自动化，进而建立具备自动化
攻击与防御能力的高性能网络推理系统。2014—2016 年，CGC 比赛在漏洞自动

攻防方向进行了尝试，引起广泛关注。参赛团队建立自动攻击防御系统，实现无
人干预条件下的自动寻找程序漏洞、自动生成漏洞利用程序攻击敌方、自动部署
补丁程序抵御对手攻击的基本能力。国内自 2017 年起组织开展了类似的自动攻
防比赛，促进了相关技术发展和新型网络安全系统构建。
（二）人工智能赋能网络攻击威胁的应对策略

1. 强化研究与应用，推动智能化网络攻防体系
建设和能力升级着眼人工智能赋能网络攻击的威胁和影响，从防范安全威
胁、构建对等能力的视角着手，尽快开展重大关键技术研究。推动“产学研”机

构以有效应对人工智能赋能攻击新型威胁场景为首要需求，从攻防两方面进行联
合攻关，开展智能化威胁态势感知、自动化漏洞挖掘与利用、智能恶意代码等技
术研究。加快人工智能技术在国家、重要行业关键信息基础设施安全防护方面的
体系化应用，整体性完成智能化升级换代，大幅提升关键信息基础设施安全保障、
网络安全态势感知、网络安全防御、网络威慑的能力水平。为管控人工智能带来

的新型网络安全威胁，应加强相关法律法规建设，规范人工智能网络安全健康发

135
135