Page 337 - 大数据背景下网络安全问题研究

» 第十一章 人工智能安全研究

开源框架。中国人工智能核心技术的自主性、安全性、可靠性，将是信息安全与网络
空间安全的根本保证。
二是人工智能技术有可能加速推动网络空间武器化战场化。人工智能技术将会进
一步放大网络空间安全在进攻和防御中的作用，使得“强者愈强，强者恒强”，推动

网络空间攻防装备的研发与运用。美军也非常重视人工智能技术对于网络空间作战能
力的使能作用。近年来，美军陆续推出了“自适应雷达对抗”（ARC）、“自适应电
子战行为学习”（BLADE）、“破坏者智能网电对抗装备”（SRx）等认知网电对抗
项目，通过网电空间态势的深度感知、网电对抗策略的自主优化、网电对抗效能的在

线评估等人工智能与网电对抗技术的深度融合来争夺网电空间制权。中国必须高度重
视与警惕由人工智能推动的网络空间武器化、战场化趋势。
三是人工智能本体安全风险有可能衍生网络空间重大灾变。算法与数据是人工智
能发展的核心关键，掌控得越多，供人工智能学习的资源就越多，就能取得突破性的

进展，也就越有可能产生一些风险后果。随着人工智能技术与网络空间的深度融合，
人工智能的本体风险将有可能随着网络空间特别是物联网的泛在互联而加以放大，衍
生演化出网络空间的重大灾变，具体表现在：一是物理世界风险。机械、化工、核

工业等智能物联网系统的安全风险，可能会破坏大气、海洋、植被等地球环境。二是
人身财产风险。无人机、无人驾驶汽车、医疗机器人等无人化智能系统的安全风险，
可能会直接危害人类自身的生命与财产安全。三是国家社会风险。伪造新闻、虚假视
频、金融诈骗等智能化社会网络的安全风险，可能会引发社会骚乱，危害国家安全。

二、网络空间人工智能安全治理的重点关注方向

网络空间人工智能安全治理是针对网络空间创建、运行、维持与维护中所采用的
各类人工智能技术进行合理、合法、适度的管理与控制，确保人工智能本体技术的安

全性并使其能够为网络空间安全治理服务。目前，世界各国关于网络空间领域的人工
智能安全治理，重点关注技术、军事与政治三个方面。
（一）技术方面
技术方面重点关注基于深度学习的人工智能赋能技术。

随着2006年深度学习模型的提出，人工智能引入了层次化学习的概念，推动人工
智能技术的井喷式、跨越式发展。凭借着当前信息化、网络化社会所积累的海量大数
据以及并行图形处理器（Graphics Processing Unit，GPU）处理技术、超算技术等计
算能力的飞速提升，深度学习能够从大数据中提取、发现甚至洞见前所未有的知识，

具有强大的学习能力、推理能力与灵活性。特别是Google公司的人工智能围棋程序
AlphaGo、IBM公司的专家辅助系统Watson以及Boston Dynamics公司的人形机器人等

• 325 •