Page 177 - 大数据背景下计算机信息安全及防护

第六章 人工智能安全防护

三、人工智能安全标准化进展

（一）国际国外标准化进展
1. ISO/IECJTC1
ISO/IECJTC1 成立人工智能分委员会 SC42，负责人工智能标准化工作。目

前开展工作的包含：基础标准工作组（WG1）、数据工作组（WG2）、可信工
作组（WG3）、用例与应用工作组（WG4）、人工智能系统计算方法和计算特
征工作组（WG5）、基于人工智能的系统的测试联合工作组（JWG2）、AI 标准

化路线图咨询组（AG3）、JTC1/SC27 联络特别小组（AHG4）等。
已发布的人工智能安全相关标准文件包括：ISO/IECTR24027《信息技术人
工智能系统中的偏差与人工智能辅助决策》；ISO/IECPDTR24028《信息技术人

工智能可信度概述》；ISO/IECTR24029-1《信息技术人工智能神经网络鲁棒性
评估第 1 部分：概述》；ISO/IEC23894《信息技术人工智能风险管理》；ISO/
IECTR24030《信息技术人工智能用例》。
2. ITU-T

ITU-T 主要致力于解决智慧医疗、智能汽车、垃圾内容治理、生物特征识别
等人工智能应用中的安全问题。ITU-TSG1 安全标准工作组下设的 Q10“身份管
理和远程生物识别架构和机制问题组”负责 ITU-T 生物特征识别标准化工作，
关注生物特征数据的隐私保护、可靠性和安全性等方面的各种挑战。其中，ITU-

TSG17 已经计划开展人工智能用于安全以及人工智能安全的研究、讨论和相关
标准化项目。ITU-T 自然灾害管理人工智能焦点组（FG-AI4NDM）正在关注人

工智能在自然灾害管理中的应用。ITU-T 数字农业的人工智能和物联网焦点组
（FG-AI4A）正在关注农业领域的人工智能和物联网相关的实践应用。
3. IEEE
IEEE 在人工智能安全方面主要聚焦伦理安全风险、可解释人工智能、人工

智能医疗安全、深度学习评估、人工智能责任化等安全问题，发布了多项标准和
报告，包括用于规范人工智能系统的 IEEEP7000 系列标准、IEEE2841:2022《深
度学习评估过程与框架》，以及在研项目 IEEEP2840《责任化人工智能许可标准》、

IEEEP2894《可解释人工智能的体系框架指南》、IEEEP2802《基于人工智能的
医疗设备性能与安全评估标准：术语》等。

·167·