为培训内容审核员，TikTok用上了儿童性虐图像

在接受TikTok的内容审查培训之前， Nasser已经预计到自己会遇到一些令人不安的内容，但在看到未经审查的儿童色情图片时，他仍然感到了震惊。

那时的Nasser在一家为TikTok做内容管理的第三方公司Teleperformance工作，并被分配到了一个特别的项目：教人工智能去识别TikTok平台上的糟糕内容。刚入职没几天，他和同事就看到了涉及性行为的儿童图像和视频，而这些都是已经从TikTok上删除的内容。

Nasser在接受《福布斯》采访时表示：“我有一个女儿，我觉得让一群陌生人观看这些内容是不对的。我认为他们不应该用这样的东西来进行培训。”2020年，他离开了Teleperformance。（出于隐私考虑，他的姓氏以及本文中的其他一些人的名字均被隐去。）

Whitney Turner也为Teleperformance的TikTok项目工作了一年多，然后于2021年离职。她在回忆培训过程时表示，自己也曾被展示过儿童被性剥削的图像。

当时，Whitney Turner获得了一份共享电子表格的访问权限，而她和其他一些Teleperformance的前员工告诉《福布斯》，那份电子表格中充满了被认定为违反了TikTok社区准则的内容，其中就包括数百张儿童裸体或被虐待的图片。

一些前内容审查员表示，直到今年夏天，许多Teleperformance和TikTok的员工还可以访问这份名为“DRR” (“Daily Required Reading”的缩写，即“每日必读”) 的文件。

虽然一些职能不相关的审查员被限制查看这些内容，但知情人士告诉《福布斯》，这两家公司中有数百人都可以自由访问该文件。DRR和其他培训材料被存储在Lark中，这是字节跳动开发的内部办公软件。

Whitney Turner对这些材料的随意处理感到非常震惊，于是向美国联邦调查局 (FBI) 报告了这一情况，并在6月会见了一名特工，但FBI没有就是否会调查此事进行置评。

“我在审核内容的时候就在想：这是某人的儿子，这是某人的女儿。这些人的父母不知道我们存下了这张照片、这段视频、这段创伤和这桩犯罪。” Whitney Turner在接受《福布斯》采访时表示，“如果家长们知道这一点，我敢肯定他们会把TikTok给灭了。”

Teleperformance的信任与安全部门的全球总裁Akash Pugalia则告诉《福布斯》，该公司在培训中不会使用含有虐待儿童的露骨内容的视频，并表示他们不会在“校准工具”中存储这类材料。不过，他不愿澄清这些工具是什么，或它们有什么作用，也拒绝回答有多少人可以通过DRR接触到儿童性虐待材料，以及Teleperformance会如何保护这些图像。

在清除儿童性虐待材料的斗争中，TikTok不是唯一一家公司。长期以来，世界上最头部的几个社交媒体平台一直在利用机器学习和第三方人类审查员去捕捉和删除这些内容，有许多公司还会与国家失踪与被剥削儿童中心 (National Center for Missing & Exploited Children，简称NCMEC) 合作，提醒执法部门在应用程序中注意发现这类有问题的图像。

然而专家们认为，TikTok及其外聘顾问在处理这些材料时所采用的方式，往好了说是粗暴和漫不经心，往坏了说是有害的，会让人们再次受到创伤。他们称，如果在内容审核培训中展示了涉及儿童的淫秽图片，不管这些内容是否通过了审核，都只会让涉事儿童再次受害。而且，将图像存储在一个可以被很多人访问的文档中是鲁莽的，也是不必要的。

TikTok发言人Jamie Favazza则表示，该公司的“培训材料有严格的访问限制，不包括CSAM的可视化示例”。但他承认，公司会与一些第三方公司合作，而后者可能有自己的流程。TikTok拒绝回答有多少员工可以访问DRR以及文件托管位置，字节跳动也没有回应置评请求。

自由和宽松在这种情况下是行不通的

虐待和剥削儿童的图片是非法的，而当这样的图片被发现时，会有严格的处理规则：这些材料必须立即删除，并报告给NCMEC的网络热线，然后由工作人员来分析这些文件，并追查其来源，这样他们就可以通知合适的执法机构。

一旦一家公司向NCMEC报告了这些材料，它就会被法律授予豁免权，可以保留这些材料90天，以协助当局进行调查。但美国联邦法律明确要求，公司要“将有权访问这些内容的员工人数降至最低”，“将这些材料保存在安全的地方”，并“确保在执法机构的要求下永久销毁任何此类视觉图像。”

一些法律和网络安全专家表示，让Teleperformance和TikTok员工大范围地获得涉及未成年人的虐待和剥削内容，这与上述规定背道而驰，并可能让安全或隐私问题演变为犯罪。

NCMEC的总法律顾问Yiota Souras说：“对于如何保存、查看和分享这些信息，你必须有非常严格的界定，因为这根本不是你可以随便保存在电脑或培训文件中的东西。”

当被问及这种处理儿童性虐待内容的行为在什么情况下会构成犯罪时，Yiota Souras表示，这将取决于公司如何保存和保护这些材料、谁能接触到它们，以及它们是如何被分发、下载或以其他方式复制的（例如保存在一份文档中）。

“这取决于对这种材料的处理有多严格。” Yiota Souras说，“自由和宽松在这种情况下是行不通的。”

TikTok的Jamie Favazza表示：“我们的目标是按照行业的最佳做法，尽量减少内容审查员们对此类内容的接触。”当被问及TikTok是否为Teleperformance提供了处理虐待儿童材料的指导准则时，后者没有回应，而Akash Pugalia只是说，Teleperformance在运营中都遵守了适用的法律。

乔治城大学法律中心 (Georgetown Law’s Center) 的隐私与技术中心主任David Vladeck补充说，虽然公司就越界内容对员工和承包商展开识别培训很重要，但他们不应该使用从平台上抓取的内容。

美国联邦贸易委员会消费者保护局 (Federal Trade Commission’s Bureau of Consumer Protection) 的前局长David Vladeck说：“拿出一些教学工具来帮助员工区分什么是可以发布的，什么是不可以的，这并不难。但是使用现实生活中的例子，并把这些例子展示给新员工，这让我觉得是不负责任的。”

互联网的"守护者"

Teleperformance是一个全球客户服务巨头，创立于20世纪70年代。去年，其实现了创纪录的业绩增长，收入超过80亿美元。从医疗保健到酒店、零售、电信，该公司从各行各业中有约1,000个客户，但它直到最近才把社交媒体加入到自己的客户组合中。

据一些当时加入该公司的前内容审查员说，Teleperformance在2019年推出了“信任与安全” (Trust & Safety) 部门，并在当年年底上线了与TikTok在德克萨斯州埃尔帕索 (El Paso) 的内容审核项目（两家公司都不愿透露合同是何时开始的）。

对于一家有着几十年历史的企业来说，这种合作关系是它展示自己与时俱进的一个表现。在最近的年度报告中，Teleperformance大肆宣扬自己与“世界上增长最快的视频平台”的合作关系，并表示其许多员工现在都自视为“互联网的守护者”。

Teleperformance告诉《福布斯》，公司对内容审查员有一个全面的招聘流程，并非常关心他们的身心健康。可是，一些前员工揭示了发生在内容审查员身上的训练不足和工作过度情况。

曾在埃尔帕索担任内容审查员和主管的Richard说，随着TikTok的迅速增长，该平台上的内容数量也在激增，所以它开始把越来越多的内容审核任务交给Teleperformance。Richard在后者工作了近三年，于今年7月离开。据他描述，Teleperformance的培训部门混乱不堪，充斥着沟通问题和高流动率，还经常让年轻或经验不足的员工来领导工作。

Richard说，TikTok“几乎无法控制目前正在进行的培训”，而Teleperformance “在这方面无法开展相应或正确的管理......他们完全无力招架”。

Angel也赞同这些观点。他于2020年2月至2021年12月期间在Teleperformance工作，最初担任内容审查员，然后成为了经理。他指出，该公司的监管部门根本无法应对TikTok的爆炸性增长。

“可以肯定的是，他们的力量非常薄弱，至少在培训部门是这样。” Angel表示，随着Teleperformance与TikTok的合作力度加大，内容审查员经常由主管和其他上级进行培训和领导，但这些人本身并没有适当的许可和权限。当培训人员手下的内容审查员越来越多的时候，“他们受到了来自管理层的压力，即便准备不足也要让这些人通过培训。”

Whitney Turner则补充道，当她问老板“为什么我们不能对TikTok开诚布公，让他们知道我们需要更多的时间和培训时，我被反复告知，这是因为合同已经签署，我们要遵守，否则他们就会直接用可以遵守合同的人来取代我们。”

“每日必读”

所谓的DRR是TikTok内容审查员在工作中用作资源的几个文件之一。TikTok和Teleperformance都不愿证实它今天是否仍在运行，但在今年5月、6月和7月离开的三名前内容审查员表示，他们离开时DRR仍在使用。

Angel和其他一些前员工将DRR描述为一个电子表格，里面充满了从TikTok上删除的违规内容案例。内容审查员表示，他们被要求查阅该文件，以了解该如何“标记”某材料违反了哪些政策。这份电子表格里有不同的标签来标记不同种类的内容——例如，一个与恐怖组织有关，另一个与裸体有关。Angel说，儿童性虐待的材料也有专门的标签。

Whitney Turner估计，关于儿童性虐待的图片、视频和描述占了电子表格的四分之一左右，而电子表格包含了数千个侵犯性材料的案例。她认为，DRR可以追溯到TikTok第一次引入Teleperformance的时候。另外，于今年5月前在爱达荷州的另一个Teleperformance中心担任内容审查员的Marjorie Dillow也有类似的印象，“他们并没有真正删除DRR中的任何东西。”

TikTok告诉《福布斯》，它没有足够的细节来确认DRR的存在，也没有回答有关DRR的一系列问题，Teleperformance也拒绝回答关于该文件的一系列问题。两家公司都不愿透露有多少人和公司可以访问这些数据，因为这些数据存在于字节跳动的Lark软件中，而字节跳动也不愿透露哪家公司控制着这些材料的访问权。另外，他们都不愿透露DRR上的儿童性虐待材料的例子可以追溯到多久以前，以及是否有任何程序可以按照执法部门的要求，在报告后90天内清除这些材料。

虽然目前还没有一套处理这些材料的行业通用最佳做法，但一个在网上打击儿童性虐待的组织——Tech Coalition的负责人表示，其对于这些材料的处理有一个大概的框架，而TikTok也是该组织的成员之一。

该组织的执行董事Sean Litton说：“一些特定的法律其实就是某种明确的界限，比如你最多只把它们保留90天，然后就必须删除，而且一旦你意识到它的存在，你就必须向NCMEC报告，因为拥有这些材料通常是重罪。但每家公司都有自己的处理方式。”

前联邦检察官、儿童色情和性剥削问题专家Mary Graw Leary曾帮助领导NCMEC的法律工作。她说，儿童性侵材料应该被视为“违禁品”。

当被问及有多少人可以访问DRR电子表格时，Angel估计，仅埃尔帕索办公室就有数百人，另外可能还有一些在美国其他地方与TikTok有合作的Teleperformance员工，以及TikTok自身的员工。Angel还指出，尽管埃尔帕索的办公室是“一个无纸化办公室”，内容审查员如果被抓到拿手机，“就会被自动解雇”，但“疫情期间的远程工作使这些隐私和安全措施更难执行”。Teleperformance最近的年度报告显示，2021年，该公司的42万名员工中有70%在家工作。

Nasser则说，远程办公的员工可以在家里访问这个敏感的电子表格。“如果有人愿意，他们可以打开手机，开始记录他们看到的一切。（他们）还可以把它发送给他们的朋友或熟人，或任何他们想要的人。我不认为Teleperformance有任何办法来追踪这些内容的去向。”

前内容审查员AnaSofia Lerma在接受《福布斯》采访时表示，尽管她在培训期间看过一段关于儿童的性爱视频，但她在工作中从未遇到过这种材料，她想知道为什么自己从一开始就被要求观看它。

“我认为这根本没有必要。”从2020年开始在Teleperformance工作的AnaSofia Lerma说。“如果其他人上传了这种视频，他们应该删除它，把它从互联网上抹去。我确实想知道，他们为什么要保存这些视频？说实话，（看完以后）我需要休息几分钟。”

Whitney Turner说，她之所以接受了在Teleperformance工作的机会，是因为每小时可以赚18.50美元，这比她之前的每小时16美元工资有所提高。一位招聘人员还告诉她，她的这份工作就像“TikTok上的一名警察”，而保护人们的前景让她兴奋不已。

但在Teleperformance工作了一年多后，Whitney Turner说，“我就一直在努力维持正常，”因为她经常失去思考的方向，变得动不动就充满愤怒，并有想自杀的感觉。

作为一名患有与战斗有关的创伤后应激障碍 (PTSD) 的老兵，Nasser也一直在挣扎，因为他发现在Teleperformance的工作经历比在美国陆军的时候更有挑战性。至于他为了得到这份工作而被迫观看的儿童视频，他说“仅仅谈论它，仅仅是提及它，就够了。”

“我知道我们看到了什么，那些内容是非常糟糕的。我们本不应该看到那些东西的。” 他对《福布斯》表示。