Page 169 - 大数据背景下计算机信息安全及防护
P. 169
第六章 人工智能安全防护
多维度多方面的数据足以形成个人画像，一旦泄露或被非法利用将对个人权益造
成损害。最近爆火的图像生成式人工智能软件“妙鸭相机”显露出的霸王条款问题，
已引起人们对人脸信息保护的关注。“妙鸭相机”不同于 ChatGPT 等人工智能，
其主要数据来源是用户提供的二十亿张照片，涉及预训练的数据仅占很少部分。
起初，“妙鸭相机”在使用条款中表述其对用户数据享有“永久的、不可撤销的、
可转让的……非独家的许可，使得我方可以任何形式……使用您的内容”，一系
列表述立即引起用户普遍不满。随着舆论的压力，提供者不得不对相关条款进行
修改。事后，也有相关业内人士表示，此类人工智能不仅能够按照用户意图生成
不同风格的图片，甚至可以生成能够通过公安系统审核的证件照片。2023 年 8
月 8 日国家互联网信息办公室公布的《人脸识别技术应用安全管理规定（试行）
（征求意见稿）》对人脸识别技术进行了规制。
目前，虽然市面上诸如“妙鸭相机”之类的图像生成式人工智能软件公司都
明确表示该技术不具备人脸识别功能，但是此类人工智能所涉及的人脸信息处理
技术，已然对现有人脸识别技术应用和人脸信息数据安全构成潜在威胁。以公安
系统的人像信息采集为例，证件照本就是识别居民个人信息的重要手段，公安机
关利用算法对人脸信息的关键特征进行甄别，最终研判出相关个人信息。而图像
生成式人工智能则是通过算法生成不同状态、风格甚至不同年龄阶段的照片，即
在用户提供的图像基础之上生成现实生活中“未曾存在”的照片，并且有可能使
这些生成的证件照通过公安系统审核。此种情况下，由于人工智能也会采用独特
的算法对用户照片予以调整，并且存在模糊用户人脸特征信息的可能，这些生成
照片会对数据的真实性构成威胁，致使人脸识别技术发挥不了人脸识别的功能。
该类技术的应用可能出现用算法打败算法的情况，倘若该类图像充斥公安等部门
的数据系统，将对公共安全、国家安全产生不可逆的损害。
可见，即使在服务运营商承诺对数据进行严格保护的情况下，数据安全问题
依旧难以完全避免。数据安全是人工智能技术获取人们信任的关键，倘若这一问
题得不到解决，将阻碍人工智能的发展和应用。数据、算法和算力被誉为人工智
能发展的三驾马车，随着用户对隐私数据的保护意识加强、数据泄露所带来的风
险加大，如何在数据保护与数据驱动的人工智能研究中谋求两全之策，是通用人
工智能创新发展过程中亟待研究问题之一。
·159·
