Page 346 - 大数据背景下网络安全问题研究

大数据背景下网络安全问题研究
Research on Network Security Issues under the Background of Big Data

史的人更难找到工作。美国多个州政府在保释或者量刑、假释时会运用算法预测某
个体未来的犯罪概率，调查显示黑人被错误标记为潜在犯罪分子的比例几乎是白人
的2倍。
人工智能可能存在算法歧视问题，冲击传统道德伦理和法律秩序，对社会整体
产生结构性影响，存在伦理风险。人工智能机器学习算法和自动决策机制的特殊性，

除了法律合规要求以外，还需要确保人工智能技术与人类的道德价值观和伦理原则一
致。人工智能技术的开发和应用深刻地改变着人类的生活，不可避免地会冲击现有的
伦理与社会秩序，引发一系列问题。从更长远的视角来看，人工智能带来的算法歧视

问题，和对传统道德伦理和法律秩序的冲击，乃至于对社会整体的结构性影响等，都
是我们需要关注的深层伦理风险。
（3）国家与人身安全风险
人工智能对国家安全和人身安全存在潜在威胁。一是国家安全，人工智能可被用

于构建新型军事打击力量，直接威胁到国家安全；或是被用于影响公众意识形态，从
而间接威胁国家安全。二是人身安全，一方面随着人工智能与物联网的深入融合，智
能产品日益应用到家居、医疗、交通等场景中，在攸关人身安全的应用领域，人工智

能对任务解读的偏差可能导致其根据错误的理解，以错误的方式完成任务，人工智能
的使用可能会有意或无意地造成伤害人类的后果。另一方面，如果赋予人工智能武器
自行选择并杀害人类的能力，将给我们的人身安全与自由构成极大威胁。
（二）人工智能安全政策法规
1.关注人工智能对国家和经济安全的影响

美国关注人工智能对国家安全和经济安全的影响，目前已成立人工智能国家安全
委员会，美国白宫科技办公室更新了《国家人工智能研发与发展战略计划》。
2018年8月成立了美国人工智能国家安全委员会，该委员会承担的职责包括：评

估人工智能对国家安全、经济安全的影响，挖掘美国和其他国家在军事上应用人工智
能和机器学习的风险，基于人工智能和机器学习将来的可能应用研究其伦理问题，制
定关于人工智能、机器学习和相关技术数据的隐私保护措施。
2.聚焦自动驾驶安全，推动建立自动驾驶政策规范

美国和德国均拥有较深厚的汽车制造基础，在自动驾驶领域，美国建立了联邦到
州级的自动驾驶安全政策规范，德国重视自动驾驶中的伦理道德问题，通过了首部自
动驾驶法案。
2017年9月6日，美国众议院一致通过了两党法案——《确保车辆演化的未来部署

和研究安全法案》，也称《自动驾驶法案》。该法案旨在发挥联邦职能，通过鼓励自
动驾驶汽车的测试和研发以确保车辆安全。

• 334 •