Page 180 - 大数据背景下计算机信息安全及防护
P. 180
大数据背景下计算机信息安全及防护
Computer Information Security and Protection in the Context of Big Data
2. 透明度原则
人工智能系统的应用开发需要首先解决智能黑箱问题，因此有必要设定透明
度原则。设定透明度原则，不仅能够更好地帮助监管机构和运行主体进一步了解
人工智能系统运行的过程，还能够及时有效地发现其中的问题和风险，因此也能
够进一步强化消费者对于人工智能系统应用和开发的信任。透明度原则的设定首
先应该确保用户对于算法数据以及规则的知情权。在人工智能系统运行和应用过
程中，消费者应该明确知晓自身接触的产品和服务来自人工智能系统，确保受系
统影响的各方面主体都能够明确人工智能系统运行结果得出的过程。此外，应该
确保对于人工智能系统算法的过程、所构建模型以及所得结论的充分解释，要求
向当事人充分解释算法的运行以及决策形成的过程，消除对于结果的质疑。
3. 公平性原则
人工智能系统的应用开发需要确保公平原则，尽可能消除不公平等现象。人
工智能系统的应用开发需要保证得出的决策不会对特定群体或者个人形成歧视或
偏见，导致此类群体或者特定个人不能公平地参与社会经济活动，或者处在明显
不利地位。人工智能系统的开发应用应该保证所有人的公平，不得引起对特定群
体或个人的歧视，不得损害社会正义和个体以及群体的尊严。
4. 问责性原则
人工智能系统广泛影响着不同的主体，其中主要法律责任应该由使用算法程
序的主体承担。问责性原则强调的是使用人工智能系统的主体必须明确算法的逻
辑、数据以及过程，对于程序使用结果所造成的影响负责。因自身过错损害社会
经济的行为都需承担行政责任或法律责任。在此基础上，需要进一步强化开发人
工智能系统人员以及系统服务对象也就是消费者的治理责任，形成多方面合作的
治理体系。
·170·
