Page 184 - 大数据背景下计算机信息安全及防护

大数据背景下计算机信息安全及防护
Computer Information Security and Protection in the Context of Big Data

算法安全评估规范》《人工智能模型风险治理能力成熟度模型》等。地方层面，
一些地方政府已开始人工智能治理方面的探索。如深圳于 2022 年 7 月发布《深
圳经济特区智能网联汽车管理条例》，对智能网联汽车的道路测试和示范应用、
准入和登记、使用管理等活动做出规定，成为国内首部关于智能网联汽车管理的

地方性法规。

二、人工智能安全风险治理体系的完善

中国虽然已在应对人工智能安全方面开展了大量探索，部委、行业、地方等
相继发力，积极引导治理工作落地，但总体上仍需加强体系化建设，有必要尽快

构建覆盖全生命周期、具有可操作性的人工智能安全风险治理体系。一是人工智
能安全涉及的范围较为广泛，涵盖数据安全、算法安全、框架安全、运营安全等
内容，涉及设计开发、测试验证、部署上线、运行维护、退役下线等环节，而目

前传统的安全风险管理制度不能完全覆盖上述领域。二是中国虽已在顶层设计、
标准研制、专门领域监管政策等方面进行了诸多尝试，但总体上欠缺体系化考虑，
具有可落地、实操性的指导性细则不够。三是构建人工智能安全保障体系将带来
新的产业空间。人工智能安全保障技术和合规性测评技术的研发和应用，在保障
人工智能融合应用安全健康发展的同时，也将成为人工智能领域的新赛道，为企

业和产业创造更好的发展机遇。
（一）构建人工智能安全风险治理体系的总体原则
综合考虑国外经验与中国实际情况，构建人工智能安全风险治理体系应遵循

以下原则：一是要坚持发展与监管并重。坚持“大力推动人工智能技术融合应用”
与“规制人工智能安全风险”两手并重，避免因噎废食。二是要建立覆盖事前、
事中、事后的全流程监管制度。加强全流程思维，采取动态和静态相结合、定性
和定量相结合的方式，保障数据、算法、模型等处于有效保护和合法利用的状态。
三是要重视共性问题与个性问题相结合。统筹考虑各行业共性人工智能安全问题

与细分领域人工智能安全风险的影响程度和容错能力，制定针对性的监管措施。
四是要坚持敏捷治理原则，建立动态跟踪调整机制。面对不断多元化、复杂化的
人工智能安全风险应加强跟踪研究，建立信息共享机制，定期发布研究报告，对

相应的管理规范和指引进行动态调整。

·174·