Page 172 - 大数据背景下计算机信息安全及防护

大数据背景下计算机信息安全及防护
Computer Information Security and Protection in the Context of Big Data

能的水平，能够拥有更接近人类的智慧水平。在此类生成式人工智能发展到一定
程度后是否会自主拥有与人类相似的伦理观念这一问题引人深思。为应对此种情
况，有学者提出将人因工程理念（Human Factors Engineering，HFE）引入通用
人工智能研发设计之中，因为伴随技术不断进步，通用人工智能会越来越接近人

类，其接近甚至超越人类的学习能力，将人因工程理念嵌入人工智能生命周期的
始终能够尽可能实现诸如高阶生成式人工智能等通用人工智能朝着安全、可信、
可控等方向发展。随着人工智能向强人工智能时代迈进，其通用属性不断增强，
人类极有可能难以掌控甚至难以参与智能生产的过程，科技伦理的规范也将愈发

重要。
（四）权责划分挑战
近年来，谷歌、特斯拉和 Uber 等公司频现无人驾驶致人死亡事件，使得人
与人工智能谁该为此担责的伦理争论愈演愈烈。对于无人驾驶引发的法律责任承

担困境，美国麻省理工学院曾进行“道德机器”测试，收集全世界范围内的数据
样本，“训练”无人驾驶汽车的人工智能系统对驾驶过程中不常见的情形做出判
断，判断的结果也就成为无人驾驶的行动依据。这些行为导致的责任划分则变得
更加难以明确。因此，如果权责划分在事前并不明确，则有可能致使人工智能产

品朝着脱离社会伦理、法律规范的方向发展，并对经济社会秩序产生危害。
一方面，人工智能领域的法律规范、伦理道德尚未健全，引发了许多侵权事件。
在美国，莎拉·安德森（Sarah Andersen）、凯利·麦克南（Kelly McKernan）和
卡拉·奥尔蒂斯（Karla Ortiz）三位艺术家对 Stability AI 和 Midjourney 等人工智

能公司和平台提起诉讼，认为其在训练中所抓取的数据侵犯了数百万艺术家的版
权。虽然该案法官威廉·奥里克（William Orrick）在听证会上表达了驳回该诉讼
的倾向，但也表明这些艺术家可以在搜集更多证据后重新起诉。当侵权事件发生
后，如何确定承担侵权责任的主体、正确划分侵权责任，成为难题。“责任鸿沟”

是安德利亚斯·马提亚在 2004 年提出的概念，所指的是算法的设计者和运营者
在算法自主学习过程中未能预测未来及其运行产生的后果，也就是说人对机器的
行动并没有足够的控制权，因此无法要求其承担传统的机器制造者和操作者的过
错责任。

另一方面，生成式人工智能技术具有“普惠性”，使用门槛和使用成本并不
高，广大人群普遍能够接触并使用该技术，这在一定程度上也提升了发生侵权事

·162·