Page 179 - 大数据背景下计算机信息安全及防护

第六章 人工智能安全防护

治理和监管人工智能的基本价值准则是人本主义。首先，应该确保所有人工
智能系统都被人所控制。无论哪一项技术都是服务人类的，人工智能技术的开发
应用也应该不能脱离人类的控制，应避免人类被超级人工智能技术胁迫或者控制。
决策的结果以及过程，都不应该全部交给人工智能技术。所以，有必要进一步增

强人们管理和控制人工智能系统的能力，确保在系统运行期间以及系统运行之后
都支持人类干预。
其次，人工智能系统管理和治理的核心是确保人的自觉权。对人工智能技术
的管理和治理必须确保人类充分了解人工智能技术，人类能够自主决定人工智能

系统的设计以及应用，不应该将决策交给技术，应避免出现个人被迫接受人工智
能系统的现象。总体而言，人工智能系统采集个人信息以及运用可能涉及隐私问
题的信息都应该确保“知情同意”“正当合法”。应该交给隐私信息的所有人决
定是否运用人工智能系统提供的服务或产品，而且应该保证个人有撤回此服务和

产品的决策权，以便更好地保障人们对于自身隐私信息的主权。
最后，人工智能技术以及系统的应用都应该遵循人类伦理的基本准则，其核
心目标应该是增进人类福祉。所以，应该确保人工智能系统从设计到开发应用的
全部过程都严格遵循人类伦理的基本准则，不得设计和生产对人的尊严以及人格

权有侵害的产品或系统，应该保障个体的数据以及隐私安全，保障商业公平和消
费者权益，保障社会公正平等，保障伦理价值，建立可靠、安全的人工智能管理
和治理体系。
（二）人工智能安全风险防控的基本原则

为了保障人本主义基本价值准则的实现，人工智能风险防控应该遵循下述
原则。
1. 安全性原则
人工智能系统的设计以及应用，首先应该确保安全风险的最小化。使用人工

智能技术和系统者应采取措施，有效保障用户数据、隐私以及网络信息安全。人
工智能技术和系统风险防控的关键在于运用组织、技术以及管理制度等多种方法，
使得人工智能技术和系统应用的安全性。所以，有必要针对人工智能技术和系统
建立全生命周期的治理以及风险防控体系，及时发现人工智能技术和系统应用过

程中的风险，加以纠正和防控。在实际出现风险事件时，能够及时有效地予以处
理，确保人工智能技术应用和系统应用的动态安全。

·169·