Page 159 - 全媒体时代短视频内容生产与创新发展

第六章 基于 AI 技术的短视频发展

升。同时，持续更新迭代系统能力，伴随自然语言处理、光学字符识别、自动语
音识别、人脸识别、目标检测、行为检测、图像分类等人工智能处理分析技术的
不断发展，提升监管技术系统技术条件。
（三）建立违规特征库，明确统一审核标准
根据技术发展和业务场景要求，对算法模型持续进行训练更新，精细化使

用不同登记准确率、召回率、精准率的算法，确定相关技术指标，以有效满足业
务使用需求。在短视频内容审核机制方面，各平台通常采用“机审 + 人审”双重
审核的模式，无论是依靠技术手段还是团队人员，都需要界定明确、一致，可操

作性强的审核标准，同时需要建立覆盖范围广泛、更新时效性强的违规内容特征
库。在监管机构层面，应不断更新完善审核标准，深化细化审核操作规程，统筹
建立统一违规特征库。将采集到的信息利用 AI 系统进行预研判，抓取违规点保存，
按照问题分类、账号名称、节目类型、内容主题、置信度等进行标记分类，推送
至待处理节目池进行人工研判。将确定为违规节目的素材汇总整理，建立包含敏

感人物，境内外台标，人物声纹，暴恐场景，敏感事件、物品以及旗帜等相关特
征库，辅助分析节目的违规情况。为了确保审核的一致性和准确性，需要明确审
核标准，建立违规案例库，同时为审核团队提供系统的培训和指导。监管部门审

核人员团队以及 AI 技术系统需要通过不断学习和研究，培养精湛的专业技能，
从而在短视频内容的审查中做出准确而客观的判断。在平台层面，应按照自身情
况，积极配合执行审核标准，补充违规内容特征库。可根据提取到的违规节目特
征标记特定节目，利用视频水印等技术主动识别违规节目，降低违规风险。
（四）形成联动处置预警机制，提升监管效率

鉴于短视频内容极易爆发式、跨平台传播，且节目与传播账号、主体关联
度高，多平台开设账号矩阵也是常见现象。因此，形成短视频平台间、监管部门
与监管对象之间的联动处置预警机制尤为重要，借助人工智能技术对违规情况自

动生成报表转达对应机构，能够极大地提高监管效率，保障内容安全。目前，我
国短视频平台之间联动主要存在两种方式：一种是同一母公司旗下子平台之间形
成内容闭环，互联互通，如字节跳动下设抖音、抖音火山版、今日头条、西瓜视
频等；另一种是企业合作技术赋能，实现平台间双向流动，如抖音与新浪微博战
略合作，双方相互促进内容审核机制，提升平台短视频质量。另外，国家广播电

视总局监管中心也已和快手、抖音以及其他部分网络视听平台形成联动处置机制，

151
151