Page 351 - 大数据背景下网络安全问题研究

» 第十一章 人工智能安全研究

to be alone）。汉娜·阿伦特（Hannah Arendt）教授也曾经说道，“完全在公共场合
以及他人面前度过的生活是‘肤浅的’”。然而，随着人工智能越来越多地参与人们
的生活，占据那些本该私密的时间和空间，人们独处的机会将会越来越少。其次，
人工智能会造成信息茧房（Information Co-coons）。信息茧房一词由凯斯·桑斯坦
（CassR.Sun-stein）教授提出，主要指人们总是关注自己喜好的东西或接受让自己愉

悦的资讯，久而久之就将自己置于“信息茧房”之中。当前，各种人工智能应用都在
利用算法推送用户感兴趣的新闻、视频、商品等，人们可以轻易过滤掉自己不熟悉、
不认同的信息，只看我们想看的，只听我们想听的，最终在不断重复和自我证成中强

化了固有偏见和喜好。而一旦身处这样的“信息茧房”，人们就再难接受异质化的信
息和不同的观点，甚至在不同群体、代际间竖起阻碍沟通的高墙。最后，人工智能可
能会造成物质性损害。与一般的信息科技不同，人工智能侵害隐私不仅会造成严重的
精神痛苦，同时由于人工智能具备与现实世界进行物理性交互的能力，进而还可能给

人们造成严重的人身和财产损害。实践中，诸如自动驾驶汽车等人工智能产品引发的
各种伤亡事故已经屡见不鲜。
（二）中国人工智能时代隐私保护制度之构建

1.完善隐私保护的法律体系
信息科技的发展不断对隐私保护提出新的挑战，而法律总是最为基础的应对措
施。当前，中国隐私保护法律体系还不够健全，特别是对于信息隐私的保护还处于起
步阶段，缺少一部专门的《个人信息保护法》，难以应对人工智能时代的隐私风险。
（1）更新通知同意机制

人工智能自动化决策的不可预测性，使得用户难以获取有关个人信息处理的有效
信息，用户同意的意义大打折扣，传统的通知同意机制面临质疑。对此，通知同意机
制仍然是人工智能时代隐私保护的基础规则，但应予以更新。其一，健全通知规则。

对于涉及人工智能自动化处理的情形，数据控制者除应向用户披露一般的信息之外，
还应特别向用户披露以下信息，包括自动化处理的逻辑程序信息、该处理的重要性以
及其对于用户可能造成的影响，就好比制造商必须对产品可能存在的危险进行警示一
样。同时，数据控制者还应以明显、清晰、易理解的方式通知用户，确保通知能够有

效到达用户。其二，完善统一机制。无论数据控制者通过直接或间接方式处理用户的
个人信息，都应当取得用户的明示同意。同时，法律还应区分不同类型的个人信息，
对于个人敏感信息的处理应当设置更加严苛的同意要件。此外，对于涉及儿童个人信
息处理的情形，应当特别取得其监护人的同意。

（2）丰富用户权利
为应对人工智能时代的隐私风险，我们需要不断丰富用户权利，以增强用户对

• 339 •