登录
免费试用
  • 您好,我是客服小图

    有任何问题都可咨询

EN

社交媒体平台内容审核机制局限下智能审核的突破与重难点

据悉,如今国外大部分知名头部媒体平台的内容审核标准,都由其内部的内容审核指南、相关突发事件的规则补充、审核团队共识以及内部信息发布工具的要求等四个要素构成。

这与我国的平台型媒体内容审核标准相似,但其中涉及的因素可能更为复杂。平台型媒体的审核现状仍然是人工审核与人工智能审核并存。一方面,机器能够降低人工成本;另一方面,人工能够判断机器无法识别的复杂内容问题,进行价值观判断,两者之间相辅相成。

此外,人工审核结果反过来可以为算法学习提供样本库,样本量积累到一定程度时,有助于训练更为精密准确的机器模型,然后更多人工审核内容可以陆续交由人工智能审核。

算法审核与突破
据调查,内容审核团队成员坦言审核线等岗位调动频繁,一是因为业务线可能会转移至2、3线城市,二是人工智能审核的升级迭代使得审核更加精准,取代了部分人力的审核工作。

在审核人员看来,公司在审核方面最大的进展就是技术工具的突破。大部分暴力色情类视频和文字内容都是通过机器学习算法识别出来的,用户生产的不合规内容在较短时间内就被机器删除了。


当然,算法模型的迭代升级并不意味着算法在审核方面具有正义性与公平性,性别歧视、地域歧视等价值观都有可能隐藏在算法模型与人工审核员背后。

人工审核的重难点
根据国内媒体调查,虽然人工智能审核的准确率受限于算法技术无法做到百分百完美,但人工审核员在工作中需要长期进行主观判断,一直面临着庞大、密集与冗杂的工作情境。

这意味着审核员的工作量非常大,比如用户动态,文字和图片类的每人每天至少要600条、文章类的每天可能需要处理1000—1200条,而且这个过程中操作时间与判断动作都会被机器记录下来,机器会统计每个人每小时审核判断的正确率。

此外,内容审核员们承认在具体工作中也存有极强的主观性,导致偏见出现,因此难以保证审核的精确性和客观性。

平台型媒体审核的未来
追溯以往,主导权由传统编辑转移至互联网时代的用户、平台和平台其他参与者手中,平台型媒体的审核机制也向机器与人工双重审核甚至多元化审核机制发展,但无论如何内容审核本身确实是可以影响平台型媒体立足市场、稳固发展的必要条件。

当前人工智能审核并不能百分百替代人工,需要人工能够为算法纠偏,担当最终裁定角色。


但可预见未来内容生态中会催生新的社会分工;对第三方内容审核服务商的合作需求增多,而随着海量样本训练库对算法的纠偏,更多审核工作纳入人工智能审核系统的工作范围;最后,随着审核体系当中多种社会力量的加入,内容行业的审核规则也将逐步建立起来。

相关推荐