Page 181 - 大数据背景下计算机信息安全及防护

第六章 人工智能安全防护

第三节 人工智能安全风险治理体系的完善

一、全球人工智能安全风险治理落地政策的主要进展

从全球来看，人工智能安全风险治理已得到高度关注，目前一些国家或地区

正在加快推进治理政策的出台，总体态势是从原则性规定向可操作、可落地方向
迈进。欧盟正在推进专门的人工智能立法，拟对高风险人工智能系统或服务实施
强制性监管；美国、新加坡等国以非强制性监管为主，推出安全风险评估框架、

审计认证机制等治理政策，引导各类主体自愿开展人工智能安全风险治理；中国
高度重视人工智能安全治理，在互联网信息服务、金融应用等专门领域开展了算
法治理的实践探索。

（一）欧盟：率先开展人工智能领域立法尝试，重点关注高风险应用
欧盟在人工智能监管领域的研究和推进力度一直处于全球前列，早在 2018
年就成立高级别专家组，对如何建立可信人工智能监管体系开展研究，并于

2019 年 4 月发布《可信人工智能伦理指南》，从顶层设计角度提出了构建可信
人工智能框架的原则和关键要素。目前，欧盟正在开展人工智能领域立法尝试，
在其 2021 年 4 月发布的立法草案中提出了高风险人工智能应用监管框架，拟对
高风险人工智能应用开展事前强制性合规评估。立法草案从人工智能系统的功能、

具体用途与模式等综合分析角度，将人工智能应用风险从高到低分为不可接受的
风险、高风险、有限风险和低风险 4 个层级，并规定除特殊情形外，禁止不可接
受风险级别的人工智能应用。立法草案重点明确了高风险人工智能应用全生命周

期监管的具体规定，同时明确了主管机构和评估机构的职责，从组织上进行保障。
另外，立法草案提出设立人工智能监管沙箱，兼顾中小企业的特殊情况和技术创
新需求。草案还提出了三种情形的违法处罚意见，企业违法最高罚款可达到其全
球年营业额的 6%（若低于 3000 万欧元的，处以 3000 万欧元罚款）。

（二）美国：推进治理原则和风险管理框架出台，高度重视算法问责
近年来，美国联邦政府相关部门陆续出台了一些指导原则、监管指南和管理
框架，高度重视算法问责制度。在联邦层面，美国国防创新委员会和美国白宫分

别对国防领域和联邦政府部门部署应用人工智能提出指导性原则要求。美国问责
署 2021 年的《人工智能：联邦政府和其他机构的责任框架》，指导联邦政府和

·171·