Page 185 - 大数据背景下计算机信息安全及防护

第六章 人工智能安全防护

（二）构建人工智能安全风险治理体系的三大维度
在明确以上原则的基础上，应从规则引导、技术攻关、评估认证三大维度完
善人工智能安全风险治理体系。
1. 加强规则引导，构建一体化监管框架

为统筹应对全流程、各类型的安全风险，应加快构建“政策 + 标准 + 法律”
的一体化监管框架，参考欧盟、美国、新加坡、日本等国际经验做法，先行出台
安全风险治理的指南、标准、评估规范等，在条件成熟后，探索进行专门立法。
在建立规则方面，当前应重点关注以下三个方面：一是注重贯彻落实科技伦理原

则，从顶层确立人工智能发展要“以人为本”的指导思想，推动科技向善。二是
按照急需先行思路，重点围绕数据、算法和场景分类分级等领域先行出台相应指
南或规范。可考虑先发布通用性的安全风险管理指南，各行业领域可结合实际情
况再进行细化。三是建立安全责任制，明确设计开发单位、部署使用单位、数据

提供方等各利益相关方的主体责任，以及明晰组织内部相关人员的责任。
2. 推动技术攻关，加强安全检测防护技术、工具和平台研发
为加强人工智能安全治理的手段建设，应围绕安全检测和安全防护两大领域，
加强技术、工具和平台研发。一是加大技术研发力度，加强数据集质量检测、深

度伪造检测、数据投毒监测与防御、对抗样本攻击监测与防御等技术研发。二是
开发检测工具集。鼓励研发针对人工智能公平性、可解释性、鲁棒性、隐私性的
检测工具，帮助各方提升人工智能安全风险识别和防御能力。三是搭建安全评估
与风险监测平台。以平台化手段，集成技术和工具，助力实现安全风险监测和应

急响应，为人工智能算法提供方、应用方和监管方提供更加便捷的安全风险管理
服务。
3. 推进评估认证，建立自评估、外部评估与强制认证相结合的评估认证
机制

为更好地推进人工智能安全风险治理规则的落地，建议探索建立自评估、外
部评估与强制认证相结合的评估认证机制。一是建立自我评估机制，可参考学习
类似新加坡等国家的做法，要求相关责任主体根据治理指南和评估规范等，定期
对人员、流程、技术等领域的安全风险管理情况进行自评估和自我承诺声明。二

是针对重点应用场景和领域，鼓励第三方的专业机构开展专门的合规评估和审计，
采用“过程检查 + 技术测试”方式，对管理流程进行合规评估，对人工智能产品

·175·