Page 209 - 电子工程中智能化技术运用

第五章 电子工程技术与应用

病诊断和治疗计划的制订，提高医疗服务的质量和效率，尤其在偏远地区，通过
远程医疗技术，大语言模型能够提供专业的医疗建议，改善当地医疗服务水平。
这些应用展示了大语言模型在促进社会公平、改善公共福祉和推动可持续发展方

面的潜力。

三、大语言模型的应用风险及治理策略的最新进展

由于大语言模型自身存在的技术问题，加上相关法律法规不完善，导致大语

言模型在落地应用过程中存在诸多亟待治理的问题，美国、中国也相继在生成式
人工智能的治理领域开展布局。
（一）大语言模型落地应用存在的风险
从技术层面来看，一方面，由于大语言模型的生成机制难以解释，其回答也

难以追溯其逻辑与理由，缺乏可解释性，容易生成错误信息，影响用户判断。在
法律、医学等严谨、敏感的领域，错误的法律和医学知识可能会导致用户违法或
使用错误急救方式，对自身健康和社会安全造成伤害。加上大语言模型存在算法
偏见，可能会无意中放大社会文化歧视，误导用户的价值观。另一方面，人工智

能是基于收录了他人享有版权作品的数据库生成内容，因此生成内容很可能面临
侵权风险。从社会层面来看，第一，大语言模型可能会侵犯用户隐私、泄露一些
组织乃至国家的机密信息，对个人身心健康、企业安全和国家安全造成威胁。第
二，大语言模型易被多行业、多领域滥用，例如，内容生成技术使得以低廉价格

生成有效虚假信息等成为可能，有可能诱发信息欺诈、线上诈骗等犯罪行为；在
现有教育体系缺乏应对准备的情况下，学生可能会在开卷测试中用其作弊或出现
利用 AI 生成文本生成论文的学术不端行为。第三，大模型在内容生成与数据预
测方面的能力较强，对重复性工作的可替代性强，有可能对传统的低创造性与低

情感性脑力劳动岗位的严重威胁。第四，大语言模型的普及应用可能会加大科技
发达地区与其他地区之间的数字鸿沟。
（二）大语言模型落地应用的治理策略进展
由于这类生成式人工智能的应用相对较新，它们在很大程度上仍处于无监管

状态。目前，为促进生成式人工智能技术健康发展和规范应用，各国都在就如何
对生成类人工智能进行有效治理与监管这一问题进行积极探索，并有了初步进展。
美国率先对生成式人工智能的监管领域展开探索。2023 年 1 月 26 日，美国国家

197