Page 171 - 大数据背景下计算机信息安全及防护

第六章 人工智能安全防护

算法应用给生成式人工智能服务技术训练带来了根本性变革，算法崛起带来的最
大挑战在于算法的不稳定性与不可解释性。基于这些特点，人们常以“黑箱”一
以概之，原因在于人们时常无法理解它的逻辑或其决策机制。从“生产关系适应
生产力”的角度看，监管应革新，以适应算法技术带来的生成式人工智能服务训

练的演变。
（三）科技伦理风险
开展科学研究、技术创新等科技活动不能脱离科技伦理的规范，这是促进科
技事业健康发展的重要保障。当前，人工智能飞速发展带来的日益增多的科技伦

理挑战，使人们意识到现有的科技伦理体系已经难以适应创新发展的现实需要。
在应对生成式人工智能技术发展的同时，我们需要明确，随着通用人工智能的出
现，伦理是人类固有的而非技术固有的这一传统观念也许会发生变化。
目前，生成式人工智能服务可以生成文本、图像、音视频等内容，应用领域

极为广泛。然而针对其使用并没有建立相应的技术使用规范，极易产生违反伦理
道德的风险，从而引发人们对生成式人工智能服务技术应用的不信任。尤其是在
由弱人工智能向强人工智能过渡的阶段，人工智能的自主性不断加强，传统的伦
理框架及人类的思维本质将因此面临空前的挑战。

生成式人工智能服务在新闻报道、论文撰写等方面的能力极为突出，与此相
生的便是该技术沦为部分使用者制造谣言和伪造论文的工具。学术刊物《自然》
（Nature）曾多次刊发关于 ChatGPT 的分析文章，对 ChatGPT 等大型语言模型
（LLMs）给学术界带来的潜在混乱，生成内容存在的潜在侵权风险，以及如何

规范使用等问题进行了多方面多维度的探讨。
在此背景下，构建系统性的价值理念和行为规范，对于明晰如何使用生成式
人工智能至关重要。上述内容不明确将直接导致学术规范问题、虚假信息和谣言
传播等科技伦理问题频发，从而引发人们对人工智能的不信任，甚至会将这种不

信任带到未使用人工智能技术的情形中。
除此以外，生成式人工智能服务通过数据和算法给予的答复也具有不确定
性。答复内容是否符合一定的价值理念很大程度上取决于训练数据的质量和算法
的合规程度，因此在源头上，通过提高数据质量，力促算法合规能够使生成式人

工智能所产生的内容本身尽可能地不违反现有的伦理体系。另外，随着生成式人
工智能的不断迭代，部分生成式人工智能等技术已被认为初步达到了通用人工智

·161·