从“校对”到“内容风控师”，平台型媒体内容审核的现状、挑战与对策

在新传播格局下，传统媒体纷纷向新型主流媒体转型，其中一个重要方向就是平台化；而在商业资本和新技术革命驱动下，商业性资讯平台也井喷式发展，并迅速建立了渠道优势。这共同导致了平台型媒体内容的大爆发，海量、多样的内容充斥互联网，内容审核也因此成为行业发展面临的重要课题。

平台型媒体加强内容审核的背景

（一）平台数量和内容类型越来越多

平台是当下传播生态中的重要成员，涵盖社交媒体平台、生活服务平台、资讯分发平台、游戏娱乐平台、操作系统平台等。我国的微信、抖音、百度、阿里、微博，国外的脸书、谷歌、苹果、亚马逊等，都是典型的互联网平台。内容平台的快速发展带来了巨量的用户，也产生了海量的内容。

近年来，我国传统媒体加快向新型主流媒体转型，资讯客户端是建设自主可控平台的关键。以资讯客户端为依托，主流媒体的内容容量空前提高，内容类型多种多样，内容数量也随之井喷。

以齐鲁晚报官方客户端齐鲁壹点为例，其2023年人工参与审核的各类内容达到了200余万篇（条），涵盖文字、图片、视频等常见类型，以及H5、动画、手绘、长图等新技术加持的内容。从内容生产主体来看，既有齐鲁晚报·齐鲁壹点编辑记者原创的内容，还有依托齐鲁壹点客户端情报站、壹点号等产生的UGC、PUGC内容，更有每天产生的大量用户跟帖留言等。

（二）内容的监管力度越来越大

随着各类平台型媒体的涌现，尤其是商业平台的急速扩张，内容生态中存在的问题也暴露出来。问题内容、不良内容不仅影响未成年人身心健康，也对国家安全和社会稳定造成破坏与冲击。因此，对网络内容生态的治理已经成为网络治理的重要国际共识。我国也对网络内容治理清单作出规定，主要涉及反动、恐怖、仇恨、色情、暴力、侮辱诽谤等行为，以重塑网络空间社会公众的价值共识，营造清朗的网络空间。

当前，我国的法律法规以及政策对平台型媒体的内容把关要求是刚性的。合规是媒体生存和发展的底线，导向是平台型媒体的生命线，做好内容审核才能真正落实“正能量是总要求、管得住是硬道理、用得好是真本事”的要求。

（三）平台内容的质量要求越来越高

平台要提升自身的传播力、引导力、影响力、公信力，持续生产高质量的内容是不可或缺的，特别是在当前不少平台上良莠不齐，错别字连篇、事实颠倒、逻辑混乱、价值观错乱的内容大行其道的情形下。新型主流媒体的内容平台更需要履行自身的社会责任和公共职能，为社会公众、商业平台提供权威、优质的内容。

从这个意义上讲，专业审读人员应当是平台型媒体内容的“质检员”，是平台健康发展的基础性保障力量。对技术驱动的平台型媒体来说，内容审核也是算法迭代升级的要求，人工审核可以弥补算法的不足，帮助算法纠偏，提升平台的技术水平和竞争力。

平台型媒体内容审核面临的挑战

（一）审核流程、机制等亟须变革

当前，商业类平台媒体发展迅速，它们的内容审核机制多是在主管部门约谈、督促下建立的，对内容的审核把关更多是对监管的回应，不可避免存在公共性动力不足的问题。商业类平台媒体的内容审核更偏向于用机器和算法来解决问题，但机器审核仍有难以克服的弱点，如无法精确识别“深伪”信息，也可能误判一些正常的内容。所以，机器仍然无法彻底代替人工，算法驱动只能是平台型媒体内容审核的一个重要工具。

由传统媒体转型而来的新型主流媒体，具备专业性、规范性和公共性的特点，在内容审核上有一定的优势。然而，随着媒体融合进入深水区，内容发布面临主体多元化、稿件海量化、类型多样化、信息碎片化、发布节奏即时化等挑战，新型主流媒体平台的审核机制必须作出相应调整。同时，新型主流媒体平台还面临着人员不足、技术相对滞后等问题，传统的内容审核机制已无法适应媒体融合发展的迫切要求。

新技术革命形塑了全新的内容渠道和采编流程，资讯采访、编辑、审核的工作环境不断变化演进，呈现出可视化、集成化、移动化、即时化的特点。内容审核的流程也需要变革，以实现传统的内容审核向新技术环境下的内容审核的平滑过渡。海量多元的信息充斥着各类平台，但其中有启发、有分析、有深度的优质内容依然是少数，且埋没在信息的海洋之中，更加难以凸显。内容审核的一个重要功能就是要对海量的内容进行筛选，提升平台内容的整体质量。

2024年2月2日正式上线的“大众”新媒体大平台，是由大众报业集团融合集团内“报网端微”等资源并向社会开放内容生产、共建共用共享的集团统一旗舰客户端。“大众”新媒体大平台审核团队的任务目标，就是要剔除劣质内容、发现优质内容、不断提升平台的公共属性。

（二）内容审核规则和标准不透明

在新的传播形势下，内容已经成为一个泛化的概念，内容审核从未有过如此复杂又多样的产品；同时，内容创作与人工智能相结合后，内容的表现形式和真实性更加多样难辨。然而，面对不断变化的内容，审核模式并没有相应变化，多数是被动应对，长期停留在经验层面，审读知识难以积累提升。

同时，由于内容审核的特殊性，审核规则和标准往往是不公开的。不同内容机构之间交流壁垒很高，内容审核大多在各平台型媒体自己的“舒适区”内发展。即使是同一个内容机构，其内容审核的标准往往也处在不断变动之中，有些情况下，今天的标准可能与昨天的不同，甚至不同的审核人员的标准也不同。一直以来，内容审核的标准和规则往往依赖“把关人”，也就是说，“把关人”自身的价值观和知识面决定了审核标准。

此外，审核标准和知识的透明度不足，也造成学习、创新的成本非常高，影响了内容审核行业的良性发展，也导致行业内人员的能动性不足和职业路径不清晰，影响了内容审核的标准化和职业化。

（三）定位模糊、动力不足

内容审核员的职业定位也存在许多问题。对商业性资讯平台等而言，内容审核员的职业门槛较低，很多审核人员是没有任何媒体工作经验的大学毕业生。大多数内容审核员缺少职业归属感和专业理想，加上工资福利低、绩效要求高、转岗难度大等职业困境，造成商业平台内容审核员的流动性非常高。特别是在商业内容平台，内容审核员呈现出“去技能化”和“弹性雇佣”的特点。审核人员很大程度上只是在机械执行审核规范，缺乏主观价值判断，更像是流水线上的工人。

新型主流媒体的内容审核员大多从内部转岗而来，具有较丰富的媒体工作经验。但这些媒体平台要么没有相应的内容审核机构，要么内容审核更多地被认为是辅助性工作，存在职业动力不高、创新性不足等问题。

无论是商业性内容平台还是新型主流媒体内容平台，内容审核员的职业定位都需要进一步明确。要扭转“数字劳工”的趋势，也要不断创新，探索新的审核范式：纵向上为内容生产上下游提供更多增量服务，横向上拓展培训、调研、监督等多业务场景。

平台型媒体内容审核的新方向

（一）从文字校对向全媒体审读转变

新传播形势下的内容审核，已不是传统的文字校对工作，而是转变为对互联网泛内容产品的审核，包括对文字、视频、音频、评论互动、用户生产内容、机器生产内容等全内容生态的审读把关。

可以预见，新技术革命仍会持续革新内容领域，新的内容形式和传播载体可能还会出现。2022年年底，横空出世，生成式人工智能进入新的历史阶段，但其可能带来的版权纠纷、虚假资讯、价值冲突以及人类知识污染等问题，也会给内容审核带来前所未有的挑战。一些似是而非、真假难辨的内容可能会在各类内容平台上越来越多。因此，内容审核必须不断适应新的传播生态的变化，不断拓展自身能力边界，对不同的内容形式实行不同的审核策略。

以“大众”新媒体大平台和齐鲁壹点两大平台的内容审核为例，流程上已经实现了较高质量的人机协同，依靠多年来积累的错误语料库，人工审核与机器审核协调互补，实现了对文字、图片、视频、音频等多形态内容的一体化、多模态审核。

（二）从单一审核向全流程审读转变

当前，内容审核已经从传统的发前审校过渡到事前预判、咨询、培训，事中把关、审核、修正，事后巡查、应对、效果评估等，实现了对内容生产全过程的覆盖。随着全流程审读的知识累积、内容风险防范行业的发展，将催生内容风控师这一新生职业。

在这方面，齐鲁晚报·齐鲁壹点近年来进行了不少探索。为应对齐鲁壹点上线带来的内容井喷，2017年，齐鲁晚报·齐鲁壹点组建了专职审读团队，负责自有平台以及外部平台账号的内容审读，成为国内较早组建专职审读团队的主流媒体之一。目前，整个审读团队有40人左右，同时承担“大众”新媒体大平台和齐鲁壹点两个集团自有平台和部分外部平台账号的内容审读。

除日常的内容审核工作外，齐鲁晚报·齐鲁壹点审读团队还承担了舆情预警、把关培训、案例汇总等工作。比如，根据审读工作情况，定期推出审读报告，对审读中发现的典型案例进行归纳梳理。同时，对报纸、新媒体客户端文字、视频稿件实行定期抽检，目的是对已发出内容进行事后检视，督促各内容生产部门降低差错率，提升内容质量。

（三）从人工审校向人机协同审读转变

新媒体格局下的内容审核已经由人工操作变为人机协同。目前，不同的媒体平台探索出了不同的人机协同审核模式：一种是先机器后人工，另一种是人工和机器有机融合。前者多为商业类资讯平台等采用，先用人工智能等进行之一轮审核，当内容触及“灰 *** 域”时人工才介入第二轮审核。后一种模式更多地被新型主流媒体平台采用，主要方式是在内容审核的过程中，通过关键词高亮显示，起到实时提醒和辅助作用。

内容的人机协同审核在“大众”新媒体大平台和齐鲁壹点客户端已经得到了较为成熟的应用，主要是通过技术手段过滤掉重大的政治名词术语错误，包括敏感关键词的提示和侵权图片的智能识别等，用技术提高纠错查错能力，大大提升了审核效率和准确度。经过多年的积累，齐鲁晚报·齐鲁壹点审读团队积累了40余万字的敏感词数据库，为技术协同提供了重要支撑。同时，结合内部工作实际，定期编纂更新《内容把关手册》作为内部培训资料，编撰各类涉政差错、导向偏差案例等300余期，为提高内容质量发挥了重要作用。

（四）从内部审读向审读能力输出转变

我国的媒体层级、规模、属性等不同，能力水平的差别非常大，但合规要求和把关需求都是刚性的，都必须配备相应的内容审核力量，这为第三方审读提供了巨大的发展空间。新型主流媒体建设的内容审核力量，有政治优势、专业素养，又有一定的技术储备，一方面可以输出内容审核能力，另一方面可以建设智能审核系统，输出审核技术。

成熟的智能审核系统要在语料库（关键词库）的支撑下，使内容平台具备敏感信息侦测、违规信息初筛、多媒体内容信息的全域全时检测能力，并能便捷调用相关功能，适配不同平台和渠道使用。

在智能审核系统的建设中，齐鲁晚报·齐鲁壹点进行了有益探索，自主研发了智能校审系统——“壹点天眼”内容风控平台。通过领先的NLP、OCR等技术，并结合媒体行业海量的敏感词数据库，构建了具有主流价值观的党媒算法模型，可准确识别文本、图片、音频、视频、直播等多模态内容中的违规内容及其各种变体违规内容，覆盖涉敏感信息、色情淫秽、恐怖暴力、垃圾广告、恶意灌水等多个维度，有效保护各类平台的内容安全。该系统通过工信部旗下中国信通院的校审性能专业评测，并获5星级更高认证。目前该平台已向部分媒体、企事业单位进行了能力输出，取得了良好的效果。

结语

内容审核是平台型媒体内容安全和风险防范的关键环节。对新型主流媒体平台来说，内容审核向全媒体、全流程、技术协同、能力输出转变是不可避免的发展趋势。内容审核范式应该不断适应媒体平台的发展变化，走向职业化、规范化，不断拓展自身的能力边界，承担好网络空间治理的责任。

[高扩：齐鲁晚报·齐鲁壹点审读委员会主任；李钢：大众报业（集团）广告有限公司副总经理]

本文刊于《全媒体探索》2024年11月号，原标题为《平台型媒体内容审核的现状、挑战与对策》，参考文献略。