Page 173 - 大数据背景下计算机信息安全及防护

第六章 人工智能安全防护

故的风险。以传播谣言为例，利用人工智能制造虚假信息和谣言轻而易举，部分
用户为增长流量故意传播、制造虚假信息和谣言，会增加虚假信息传播的频率。
在生成式人工智能服务应用情境下，人工智能的自主性增强，同时需要根据
外部反馈进行生成内容的优化，再不断输出生成内容，传统法律法规中的因果关

系判断在隐层众多的算法黑箱中难以实现，面临着规制不能的困境。这也加大了
侵权事件发生后，救济与维权的难度，在使用生成式人工智能服务的过程中，用
户权益难以得到有效保护，从而加剧了公众对人工智能的不信任。
《暂行办法》规定，提供者应当依法承担网络信息内容生产者责任，履行网

络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信
息保护义务。这初步确立了人工智能领域责任承担的基本规则，为后续规则的制
定与实施提供了依据。然而，生成式人工智能在算法研发环节、使用环节的不当，
同样会产生侵权责任，此时若仍由服务提供者承担责任显然会损害服务提供者的

积极性，应当建立合适的归责制度。
（五）知识产权挑战
创新是引领发展的第一动力，在推动高质量发展的背景下，知识产权作为国
家发展战略国际竞争核心要素的作用日益凸显。随着生成式人工智能服务的广泛

应用，人工智能大模型的训练数据来源是否合法，其生成式内容是否能够被称之
为作品以及相关权属争议，正成为人们关切的问题。
首先，生成式人工智能本身作为计算机程序能够被视为知识产权所保护的
对象已经成为人们的共识，但是对于实现其功能背后的海量数据训练所涉及的知

识产权问题仍存较大争议。《暂行办法》第 7 条规定，“生成式人工智能服务提
供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，
遵守以下规定：……（二）涉及知识产权的，不得侵害他人依法享有的知识产
权……”。在此种情况下，数据来源的合法合规性值得重视，如何平衡数据中的

知识产权保护与技术创新发展同样值得讨论。数据中的知识产权保护界限缺失或
界定不明晰很容易引发“公地悲剧”，但如果过于强调数据的知识产权保护则会
阻碍相关技术的发展，“反公地悲剧”也难以避免。
具体而言，对于如何平衡数据知识产权保护与技术开发创新发展，学界仍有

较大分歧，其中，涉及生成式人工智能训练所需的海量数据集的版权保护问题尤
为值得关注，譬如传统的“避风港”原则、合理使用原则等，在人工智能特别是

·163·