Page 348 - 大数据背景下网络安全问题研究

大数据背景下网络安全问题研究
Research on Network Security Issues under the Background of Big Data

2.全面梳理人工智能安全需求，研究制定人工智能安全标准
建议加快开展人工智能安全标准化工作，统筹规划人工智能安全标准体系，建立
健全“贯彻监管要求，促进技术应用，服务产业发展”的人工智能安全标准体系，充
分借鉴、兼容大数据安全、物联网安全、云计算安全等基础性标准体系，加强人工智

能安全基础标准研究，有序推进重点人工智能安全标准研制工作，深化人工智能应用
安全标准化工作。充分发挥各级标准化组织优势，积极推动国家标准化组织、行业标
准化组织、团体标准化组织建立工作沟通和协作机制。
3.制定人工智能安全指标评估体系，建立健全人工智能监管体系

建议制定人工智能安全指标评估体系，为人工智能研究人员和使用者提供清晰的
评估指引。指标评估体系能帮助企业等应用主体更全面地把控人工智能应用的风险，
从源头上防止风险，也为企业选择安全的人工智能应用、法院裁断人工智能相关案件
提供可循思路和裁量标准。

同时，应当建立和健全人工智能的监管体系。政府监管应贯穿人工智能开发、设
计、数据采集和市场应用等多个环节，防止人工智能被非法利用或用于偏离既定目的
的领域。

4.倡导建立国家人工智能伦理委员会，构建人工智能伦理风险治理机制
建议成立人工智能伦理和安全委员会，开展人工智能伦理道德和安全研究，防范
人工智能潜在的伦理道德风险；重点关注人工智能对国家、社会和人民的潜在安全威
胁，借鉴世界主要国家在国家层面成立的人工智能安全、伦理委员会工作成果，结合
中国人工智能政策要求和产业特点，研究人工智能应用可能带来的伦理与社会问题，

构建人工智能伦理风险治理机制。

二、人工智能时代的隐私保护

（一）人工智能时代的隐私危机
1.人工智能增强了对隐私的直接监控（direct surveillance）能力
近年来，各式各样带有传感器和处理器的人工智能产品不断涌入人们的学习、
工作和生活中，极大地增强了对隐私的直接监控能力。例如，当你在自家大院载歌载

舞时，有人可能正在通过无人机监视着你的一举一动；当你和朋友家人私下开怀畅聊
时，安装语音识别技术的智能助手正在记录着你们所说的每一个字。而借助图像识别
技术，无处不在的数字摄像头就像安装了大脑的眼睛一样，可以精准地从人群中自动
识别人脸，锁定监控对象，甚至预测和判断人的行为。与此同时，除了物理空间之

外，人工智能技术也极大增强了对网络空间的直接监控能力，人们利用网络搜索过什
么，购买过什么，观看过哪些视频，与哪些人聊过天甚至聊天的内容等无不处于监控

• 336 •