Page 20 - 现代麻醉理论及实践操作

第一章 麻醉学理论基础

（三）AI 在麻醉学科的挑战

随着AI系统在医疗健康领域的发展与成熟，其必将会广泛应用于临床工作
中。但是这可能给传统的医疗模式带来冲击，进而带来新的社会、经济和法律问
题。如何应对AI带来的诸多问题，确保其安全可控地发展，是当前必须重视和解

决的问题。
1.数据收集与隐私保护

数据、算法和算力是AI的基本三要素。其中，高精度的训练数据是应用AI的
基础。用于训练的数据不仅要追求“量”，更要追求“质”。目前，AI的数据
来源局限于某一单中心或局部地区多中心的研究，数据来源较单一，且数据采集

设备不统一，这将影响数据的精确度及标准化，导致错误的输出结果，影响AI的
稳定性及安全性。除了数据收集的困难，研究人员还面临另一个挑战——数据保
护。随着互联网的发展，黑客入侵数据库导致数据流失甚至患者隐私暴露等风险

会进一步增加。隐私泄露成为制约AI发展最突出的因素之一。目前，中国缺乏相
关的法律法规来规范健康数据的隐私保护。因此，在应用AI时，不仅需要研究人
员采取强有力的安全措施以防止健康数据泄露及黑客对数据库的入侵或控制，而

且还需要政府及相关监管部门制定完善的法律法规及监察制度来规范数据的合理
使用。

2.“黑匣子”现象
对于麻醉科医师而言，理解机器学习模型的内部机制非常困难。神经网络及
机器学习可以处理大量的数据并生成极其复杂的模型，但是人类很难理解或解释

机器输出结果。计算机算法中的多重运算会导致出现明显的黑匣子现象：机器
学习的数据分析是通过复杂的函数或模型运算而来，对于人类而言，要理解其输

出结果是很困难的。例如，在神经网络中，单个神经元从多个神经元处接收输
入信号，在对这些信号进行加权和求和后，求和后的信号会传递到后续连接的神
经元，以此类推，后续的神经元再次接收上一层神经元的信号输入。如果重复上

述步骤，则会在输入端口和输出端口之间创建多层运算。计算机的输出结果取决
于机器学习模型和算法，麻醉科医师很难判断其“黑匣子”内部是否会出现运算

错误。因此，机器学习模型操作模式的不透明性及不可解释性将极大地限制其
应用。

13