Page 355 - 大数据背景下网络安全问题研究

» 第十一章 人工智能安全研究

害”，这也充分说明了安全原则的重要性。同样，数据安全作为隐私保护的基础，必
须得到重视和遵守。特别是对于一些具有高度危险性的人工智能产品，其数据安全更
是至关重要，因为这些数据一旦泄露将对用户造成巨大损害。例如，如果黑客入侵自
动驾驶汽车，那么后果将不堪设想，不仅可能导致用户遭受精神痛苦，还可能会给人
们造成严重的人身和财产损害。保护用户数据的安全，既要防范数据被黑客等不法分

子获取，同时也要警惕各种形式的商业性和非商业性利用，防止类似于脸书公司泄露
用户数据被用于操控政治选举等事件的发生。
（4）控制原则

人工智能技术引发了人机关系的思考。确保人类对于机器的控制变得异常重要，
人类优先的控制原则理当成为人工智能研发的重要原则。同样，为确保人们能够掌握
隐私保护的主动，人工智能产品应当配备关闭装置或安全模式，以便人们能够从物理
层面彻底终止人工智能的隐私入侵行为。在此基础上，人们可以通过关闭自动驾驶模
式来阻止汽车收集自己的出行信息，通过关闭追踪功能来阻止浏览器收集自己的使用

痕迹，通过切换到安全模式来禁止聊天机器人记录自己的聊天数据等。唯有贯彻控制
原则，人类才能在人机关系中占据主动，才能让隐私得到全面的保护。

• 343 •