Page 339 - 大数据背景下网络安全问题研究
P. 339
» 第十一章 人工智能安全研究
人类社会生活、生产与工作的关键性支撑作用越来越强，人们也更加关注网络攻防对
于人类社会政治、经济、心理等方面的衍生性影响。仅仅依靠人类自身的智力、体力
与能力，已经难以独自胜任网络空间作战使命任务，必须依托于自主化、智能化的网
络攻防武器，并在物理、网络、心理、社会等多个领域开展混合作战。
1.自主网络攻防是混合作战的一种典型非对称作战样式
混合作战是一种攻防界限模糊，融合网络空间作战、心理战、金融战等多种作
战样式于一体的新型作战行动，具有投入少、见效快，隐蔽性强、不易察觉，预见性
差、难以防范等突出特点。网络空间作战正是混合作战的中心与核心，是混合作战的
典型非对称作战样式。
2014年以来，俄罗斯在混合作战理论指导下应对乌克兰与克里米亚局势的一系列
战术战法，已经成为混合作战的实践典范，而网络攻防成为其中不可或缺的重要组成
部分。乌克兰政府网络系统曾遭到计算机病毒“毒蛇”的连续攻击，使得黑客获取大
量乌克兰机密。欧洲能源网络的多个工业管理系统也曾感染了可实时监控能源消耗、
破坏扰乱系统的“能量熊”计算机病毒。建议应该加强混合作战及其应对措施的理论
与对策研究，尤其需要重视国际敌对势力通过互联网散布谣言、网络窃密、木马攻击
等手段，对我舆情社情、关键基础设施的袭扰破坏。
2.自主网络攻防武器将显著增加网络空间安全的不确定性
现阶段在人工智能技术的赋能下，具有高度自主性的网络攻防武器由于其内部自
身理论与技术的不成熟性以及外部人员使用的不合理性，有可能显著增加网络空间安
全的不确定性。
一是深度学习等典型人工智能技术的基础理论建立在概率论和数理统计基础之
上，并没有严格的因果对应关系，而现有技术也难以预估自主网络攻防武器的风险事
件和安全边界。同传统基于规则、基于人类知识与判断的网络攻防武器相比，基于人
工智能的自主网络攻防武器内生风险性更高。
二是自主攻击网络武器的扩散与不规范使用，将会对网络空间安全造成难以控
制、难以评估的危害。2017年以来，不法分子利用美国国家安全局（National Security
Agency，NSA）泄漏的0 day漏洞“Eternal Blue”（永恒之蓝）进行传播的WannaCry
勒索病毒，至少感染了150多个国家的30余万名用户，严重影响了金融、能源、医疗
等关乎国计民生的重要行业，造成损失达80亿美元。
国际上需要形成制约自主网络攻防武器的规章制度与公约规范，严格自主网络
攻防武器的加密、解密与使用权限，完善自主网络攻防武器的自我删除、取消激活等
功能。
• 327 •
