登录
免费试用
  • 您好,我是客服小图

    有任何问题都可咨询

EN

内容审核机制⎪互联网平台业务审核形式的竞争走向

  • 广州市科技局局长王桂林、黄埔区政府及区科技局等领导莅临图普科技

    王桂林局长指出,人工智能行业逐渐进入产业链规模化,根据《广州市人工智能产业链高质量发展三年行动计划(2021—2023年)》,希望通过走访和探讨,帮助图普科技等人工智能独角兽企业挖掘痛点难点,协调多部门共同推动企业快速发展。并且,也希望图普科技在人工智能产业创新上不断锐意进取,引领应用产业链成熟发展,为推动广州人工智能产业链高质量发展贡献力量,共同开拓产业链规模化时代的新商业模式。

    78 2022-05-12
  • 图普科技连续两年荣膺广州「未来独角兽」「高精尖」创新企业!

    图普科技已连续两年荣获「未来独角兽创新企业」「高精尖企业」,充分体现广州市科技局、广州市科技创新企业协会,对图普科技科研实力及商业化应用的认可,肯定图普在不同领域的AI商业应用战略。

    30 2022-05-12
  • 权威认证!图普科技通过ISO27001信息安全管理体系认证

    本次通过「ISO27001:2013」认证,标志着图普已建立起一套完善、科学有效的国际化信息安全管理体系,具备保护信息化进程健康、有序、可持续发展的能力,覆盖内容审核、零售数字化、智能安防等业务应用。

    33 2021-11-12
  • 喜报!图普荣膺广州「未来独角兽」「高精尖」企业

    由广州市科学技术局指导,广州市科技创新企业协会主办的《2021年广州“独角兽”创新企业榜单》正式公布,凭借核心AI技术及行业生态应用创新,在互联网/融媒体内容审核、新零售数字化、AIoT智能安防等领域的影响力,图普科技同时入选“未来独角兽”及“高精尖”企业。

    18 2021-11-12

最新文章

目前国外头部平台型媒体的内容审核标准主要由平台内部审核规则指南、突发事件中的补充性规则、审核员之间的共识、内部信息发布工具等几个方面构成。而国内平台型媒体的审核标准虽与之类似,但所涉及的因素可能更为复杂,目前的内容审核现状仍然是人工审核与机器审核并存。

国内平台媒体的内容审核机制一方面可以通过人工智能算法降低人工成本,另一方面借助人工团队判断部分算法无法识别的复杂内容问题,并进行价值观判断。同时,人工审核结果还可为算法学习提供样本库,当样本量积累到一定程度时,更为精密准确的算法模型就被训练出来,然后更多人工审核内容就又可以交给人工智能审核,构成正向循环。

人工审核团队中的岗位变动经常发生,一方面是业务可能转移到二三线城市来做,一方面是算法系统更精准后进一步取代人力的审核工作。


大部分审核团队认为目前相关领域最大的进展是技术工具的突破,如大部分暴力色情类视频和文字内容都是通过机器学习算法识别出来的,用户生产的不合规内容在较短时间内就被机器删除了。

虽然智能审核存在一定程度的误判和漏判,如对社会热点内容的误判可能导致内容失去时效性、对假新闻、假产品的漏判会影响用户信任,而且算法模型的迭代升级仍需面对生产内容背后的隐形意向问题。

一方面这是受限于算法技术本身,另一方面,审核员面临着庞大、密集与冗杂的工作情境,需要进行主观判断。审核团队的工作量非常大,头部内容生产平台的用户动态如文字和图片每人每天至少要上千条,要是文章的话每天可能需要处理成百上千条,而且的操作时间与判断动作都会被机器记录下来,由人工智能审核系统统计每个人限时内审核判断的正确率。


不过人工内容审核团队本身在具体工作中也存有极强的主观性,因此难以保证审核的精确性和客观性。从传统编辑主导到互联网时代的用户与编辑共同主导,从三审三校制到机器与人工双重审核,智能内容审核已然成为平台型媒体生存和发展的必要条件。

未来内容生态中会催生新的社会分工,内容风控将逐渐成为偏重点,第三方内容审核机构将涌现出来,而随着海量样本训练库对算法的纠偏,更多审核工作将由人工智能系统来承担。

随着多种社会力量加入到审核体系当中,内容行业的审核规则会逐步建立起来。尽管如此,平台型媒体的商业逻辑仍是主导内容审核的重要动力,也就是用平台内容吸引用户,再将用户打包给广告商。

因此,平台型媒体的内容审核可能会成为一种结构性机制,无论是基于内部资本驱动,即平台的商业创收和盈利目标,还是基于社会政治或文化期望的要求,都将对社会其他场域发挥强大的他律作用。