Page 347 - 大数据背景下网络安全问题研究

» 第十一章 人工智能安全研究

2018年5月，德国政府推出关于自动驾驶技术的首项道德伦理标准，该标准将会
让自动驾驶车辆针对事故场景做出优先级的判断，并加入系统的自我学习中，像人类
的安全始终优先于动物以及其他财产等。
3.应对人工智能伦理道德风险
美国、德国、英国、日本、法国、加拿大、韩国等国家均成立了人工智能伦理委

员会，关注与人工智能相关的社会问题，开展了人工智能伦理道德安全研究，发布了
人工智能伦理道德相关主题的指南或报告。各国希望通过全面分析人工智能对人类社
会的影响、发展趋势，深入研究伦理、法律、经济、教育、社会等问题，把伦理道德

置于核心位置，以确保这项技术更好地造福人类。
2017年3月，德国24家企业组建“德国人工智能协会”，为行业利益发声，其中
包括妥善应对伦理风险等负面影响。德国正在筹建数据伦理委员会，为人工智能发展
制定道德规范和行为守则，像所有基于算法和人工智能的产品、服务均须通过审查，

尤其要避免出现歧视、诈骗等不法现象。
4.中国关注人工智能产业发展，提出多项安全要求
中国已发布了一系列的人工智能相关政策法规，作为中国第一个国家级人工智能

战略文件，《新一代人工智能发展规划》中提出要“加强人工智能相关法律、伦理和
社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架”。中国发布
的政策规范以促进产业技术发展为主，已在无人机、自动驾驶、金融等领域出台了多
项规范性文件，几乎均提出了人工智能安全、伦理等方面的要求。
2017年12月，为落实《新一代人工智能发展规划》，工信部发布《促进新一代

人工智能产业发展三年行动计划（2018—2020年）》，旨在推进智能制造关键技术装
备、核心支撑软件、工业互联网等系统集成应用，以系统解决方案供应商、装备制造
商与用户联合的模式，集成开发一批重大成套装备，推进工程应用和产业化。推动新

一代信息通信技术在装备（产品）中的融合应用，促进智能网联汽车、服务机器人等
产品研发、设计和产业化。
（三）关于人工智能安全的建议
1.明确人工智能安全内涵

建议开展人工智能安全研究，制定人工智能安全相关政策法规、标准规范，既要
综合考虑相关领域安全需求，也要划清人工智能安全边界，明晰人工智能安全内涵，
提炼人工智能核心安全需求。人工智能应覆盖多个领域的安全需求，从技术维度上覆
盖语音识别、图像处理、计算机视觉、自然语言处理等领域；从应用上覆盖智慧城

市、智慧物流、自动驾驶、智能家居等领域；从成果组成上覆盖软件、硬件等诸多维
度。此外，还应重点研究人工智能算法模型和数据安全。

• 335 •