Adio Dinika 是分布式人工智能研究所 (DAIR) 的研究员。
我们眼前闪过一个模糊的屏幕，伴随着一条看似无害的敏感内容消息，上面有一个交叉的-伸出眼睛的表情符号。警告性的软设计和有趣的图标掩盖了其下面的重力。只需轻轻一弹手指，我们就可以滚动过去，我们的提要中充满了猫咪视频和度假照片，令人耳目一新。但在我们数字乌托邦的阴影下，一个不同的现实正在展开。
在世界各地狭窄、光线昏暗的仓库中，一群看不见的工人弯腰驼背在闪烁的屏幕上。当他们面对人类最黑暗的冲动时，他们的眼睛紧张，手指悬停在键盘上，这些冲动比他们最疯狂的噩梦还要黑暗。他们无法将目光移开。他们无法滚动过去。对于这些工作人员来说，没有触发警告。
科技巨头大肆宣扬人工智能在内容审核方面的力量，描绘了全知算法的图景，以确保我们的数字空间安全。他们提出了一种乌托邦式的愿景，即机器不知疲倦地筛选数字碎片，保护我们免受网络最坏的影响。
但这是一个令人欣慰的谎言。
现实更加人性化，更加人性化。更令人不安。这种叙述有多种目的：它减轻了用户对在线安全的担忧，证明了这些公司获得的巨额利润是合理的，并且最终转移了责任，你怎么能责怪算法呢？
但是，当前的人工智能系统远没有能力理解人类交流的细微差别，更不用说对内容做出复杂的道德判断了。即使是最复杂的算法，讽刺、文化背景和微妙形式的仇恨言论也常常会被漏掉。
虽然在某种程度上，自动内容审核可以针对更主流的语言实施，但内容的低质量- 资源语言通常需要从语言能力强的国家招募内容审核员。
几乎每一个人工智能决策背后，都是由人类做出最终决定并承担判断的负担，而不是由某些人承担。硅基救星。人工智能通常是一个粗略的第一过滤器。以亚马逊所谓的自动化商店为例：据 The Information 报道，亚马逊依靠大约 1,000 名主要位于印度的员工来手动跟踪顾客并记录他们的购买情况，而不是先进的人工智能系统。
亚马逊告诉美联社和其他公司，他们确实雇佣了员工观看视频来验证人们的购物行为，但否认他们雇佣了 1,000 名员工，也否认员工对购物者进行现场监控。同样，Facebook 的人工智能 M 助手比软件更人性化。因此，人工智能能力的幻想往往是以隐藏的人类劳动力为代价来维持的。
我们是互联网的看门人，Botlhokwa Ranta，29 岁，来自南非的前内容版主，现在住在内罗毕肯尼亚的萨玛合同终止两年后告诉我。她在家里说话，声音沉重。我们清理了混乱，以便其他人可以享受干净的网络世界。
因此，当我们睡觉时，许多人都在辛劳。当我们分享时，这些工人却在屏蔽。当我们联系时，他们面临着我们精心策划的在线体验与原始的、未经过滤的人性现实之间的脱节。
科技行业光鲜的外表掩盖了遍布全球的原始的人性现实。从内罗毕郊区到马尼拉拥挤的公寓，从黎巴嫩的叙利亚难民社区到德国的移民社区和卡萨布兰卡的呼叫中心，一个由看不见的工人组成的庞大网络为我们的数字世界提供了动力。这些工人的故事往往是创伤、剥削和恢复力的挂毯，揭示了人工智能驱动的未来的真正成本。
我们可能会对 Sam Altman 和他的聊天机器人和自动化系统感到惊讶。类似的赞美，但这掩盖了表面之下的紧迫问题：我们神圣的人工智能系统是否只会充当烟幕弹，掩盖令人痛苦的人类现实？
在我们不懈追求技术进步的过程中，我们必须问：什么我们愿意为数字便利付出多少代价？在这场迈向自动化未来的竞赛中，我们是否会将人性抛在尘埃中？
2021 年 2 月，Abrhas 的世界因他位于提格雷的小镇遭到炮火而破碎。埃塞俄比亚和厄立特里亚国防军都参与了提格雷冲突，这是当今最致命的冲突，根据美国新线研究所的报告，这场冲突被正确地称为种族灭绝。
只带了一个小背包无论他能拿到多少现金，26 岁的阿布拉逃到了肯尼亚内罗毕，留下了生意兴隆、无法逃脱的家人和朋友。由于提格雷遭受埃塞俄比亚政府两年多的互联网关闭之苦，他花了几个月的时间因家人命运的不确定性而痛苦不已。
然后，讽刺的是，阿布拉被肯尼亚人招募了。Sama 是一家总部位于旧金山的公司的分支机构，该公司将自己定位为道德人工智能培训数据提供商，因为该公司需要精通提格里尼亚语和阿姆哈拉语的人员，他刚刚逃离冲突语言，以缓和主要源自同一冲突的内容。/p>
每周五天，每天八小时，Abrha 坐在内罗毕的 Sama 仓库里，缓和有关他逃离的冲突的内容，有时甚至是家乡的爆炸。每天都有大量针对提格雷人的仇恨言论，他们担心下一个尸体可能是他的父亲，下一个强奸受害者可能是他的妹妹。
道德困境也沉重地压在他身上：他怎么能在他和他的人民成为受害者的冲突中保持中立？他怎么能将他的人民产生的报复性内容标记为仇恨言论？压力变得难以承受。
尽管阿布拉曾经厌恶吸烟，但他后来成为了一名烟瘾不断的烟民，在这个充满创伤的数字雷区中，他手里总是拿着一支香烟，每次吸烟都徒劳地试图抚平人民的痛苦。
当 Abrha 在审核内容时发现了他表弟的尸体时，他的工作的恐怖达到了毁灭性的顶峰。这残酷地提醒了他，他每天被迫通过电脑屏幕目睹这场冲突的真实和个人利害关系。
在他和其他内容版主被 Sama 终止合同后，Abrha 发现自己处境艰难。由于无法在内罗毕找到另一份工作，他只能独自应对自己的创伤，没有他迫切需要的支持或资源。他作为内容管理员的经历给他带来了沉重负担，再加上逃离冲突的挥之不去的影响，对他的心理健康和财务稳定性造成了沉重打击。
尽管提格雷的局势在事件发生后仍然岌岌可危。战争结束后，阿布拉觉得自己别无选择，只能返回祖国。几个月前，他踏上了艰难的旅程，希望能从冲突和剥削的废墟中重建自己的生活。他的故事清楚地提醒我们内容审核工作的长期影响以及执行该工作的人员的脆弱性，这些人员通常远离家乡和支持系统。
34 岁的 Kings 在世界上最大的贫民窟之一基贝拉长大，他坚持让 Noema 仅使用自己的名字来自由讨论个人健康问题，他梦想着让年轻的家人过上更好的生活。像许多在内罗毕贫民窟长大的年轻人一样，他失业了。
当萨玛打来电话时，金斯认为这是他进入科技世界的机会。从一名数据注释员开始，他对数据进行标记和分类以训练人工智能系统，尽管薪水微薄，但他还是很兴奋。当公司提出将他提升为内容管理员并稍微加薪时，他抓住了这个机会，没有意识到这一决定的影响。
Kings 很快发现自己面临着日夜困扰的内容。最糟糕的是他们将其编码为 CSAM，即儿童性虐待材料。日复一日，他翻阅生动描述儿童遭受侵害的文字、图片和视频。“我看到了儿童阴道因虐待而撕裂的视频，”他说道，声音空洞。每次我在家里闭上眼睛，我只能看到这些。
创伤影响了金生活的方方面面。32岁时，他与妻子的亲密关系出现了问题；受虐待儿童的画面困扰着他。金斯说，公司的心理健康支持严重不足。咨询师似乎没有能力应对他的深度创伤。
最终，压力变得太大了。国王的妻子无法应对性剥夺和他行为的变化，离开了他。当金斯离开萨玛时，他已经成为了昔日自我的躯壳，在精神和经济上都破碎了，他对美好生活的梦想被一份他认为可以拯救他的工作击碎了。
兰塔斯的故事始于南非小镇迪普克卢夫，那里的生活按照可预测的周期进行。作为一名 21 岁的母亲，我们交谈时她已经 27 岁了，她反思了社区中许多年轻女性面临的严酷现实：十分之六的女孩在 21 岁时怀孕，进入了一个就业前景本已稀缺的世界，单亲母亲让她们更加难以捉摸。
当萨玛来招聘时，承诺为她和她的孩子提供更好的生活，兰塔认为这是她通往更光明未来的门票。她提出申请，很快就发现自己来到了内罗毕，远离熟悉的一切。在她到来后，这些承诺很快就兑现了。对她留在南非的孩子团聚的支持从未像承诺的那样实现。
当她询问此事时，公司代表告诉她，他们无法再像最初承诺的那样支付全部费用，并只提供部分支持，从她的工资中扣除。与萨玛正式会面的尝试没有成功，非官方消息来源称原因是正在进行的与工人的法律诉讼。
兰塔斯姐姐去世后，她说她的老板给了她几天假，但不让当她回到审核内容时，尽管有一个空缺，但她还是转向了创伤性较小的内容流。就好像他们期望她和其他工作人员像机器一样操作，能够随意关闭一个程序并启动另一个程序。
在一次复杂的怀孕期间，事情达到了紧要关头。医生不让她卧床休息，生下二女儿仅四个月后，婴儿就住院了。
随后她得知公司已停止缴纳医保金她开始工作后不久，尽管她的薪水不断被扣除。现在她背负着无力支付的账单。
兰塔的职责包括审核与女性性虐待、仇外心理、仇恨言论、种族主义和家庭暴力有关的内容，这些内容主要来自她的祖国南非和尼日利亚。虽然她意识到自己工作的重要性，但她对缺乏足够的心理咨询、培训和支持感到遗憾。
兰塔发现自己对人性失去了信心。她告诉我，我看到了我以前认为不可能的事情。在我所看到的情况下，人类怎么能声称自己是智慧物种呢？
Samas首席执行官对与Meta签署内容审核合同表示遗憾。Meta 发言人表示，他们要求所有合作伙伴公司提供训练有素的从业人员的 24/7 现场支持、随叫随到的服务以及从入职第一天起获得私人医疗保健服务。
该代表还表示它提供了技术解决方案来尽可能限制图形材料的暴露。然而，Abrha、Kings 和 Ranta 等员工的经历却描绘出一幅截然不同的画面，表明 Metas 规定的政策与内容审核者的现实之间存在巨大差距。
Abrha、Kings 和 Ranta 的经历并不是孤立事件。仅在肯尼亚，我就采访了 20 多名有着类似经历的工人。在全球范围内，在德国、委内瑞拉、哥伦比亚、叙利亚和黎巴嫩等国家，我们在数据工作者调查项目中采访的数据工作者告诉我们，他们面临着类似的挑战。
在德国，尽管帮助新来者的计划，身份不确定的移民最终仍然担任像阿布拉斯这样的角色，审查来自其祖国的内容。这些工人不稳定的签证状况增加了一层脆弱性。许多人告诉我们，尽管面临剥削，但他们感到无法公开发言。由于他们的就业与签证挂钩，因此被解雇和驱逐出境的风险迫在眉睫。
在委内瑞拉和哥伦比亚，经济不稳定促使许多人在数据行业寻找工作。虽然并不总是直接参与内容审核，但许多数据注释者经常使用具有挑战性的数据集，这可能会对他们的心理健康产生负面影响。
现实往往与宣传的不符。即使叙利亚的数据工作者和黎巴嫩的叙利亚难民没有审核内容，他们的工作也经常与他们经历或逃离的冲突的数字残留物交叉，这给他们本来就很艰巨的工作增添了一层情感压力。
保密协议（NDAs）的广泛使用是涉及这些弱势个体的不平衡权力动态的另一个层面。这些协议作为工人雇佣合同的一部分，使工人保持沉默，并将他们的斗争隐藏在公众视野之外。
这些保密协议的隐含威胁往往超出了雇佣期限，给工人蒙上了长长的阴影。即使他们离开工作岗位后仍然生活。许多与我们交谈的工人出于担心法律后果而坚持匿名。
这些来自波哥大、柏林、加拉加斯和大马士革等地的工人表示，他们感觉被那些从他们的劳动力中获利的公司抛弃了。员工告诉我，Sama 提供的所谓健康计划往往不足以解决这些工人所经历的根深蒂固的创伤。
他们的故事清楚地表明，在我们数字世界的光鲜外表背后，存在着隐藏的劳动力，他们承受着巨大的情感负担，所以我们不必这样做。他们的经历引发了关于数据工作的道德影响以及维护数字基础设施的人力成本的紧迫问题。这个问题的全球性凸显了一个令人不安的事实：对数据工作者的剥削不是一个错误，而是该行业的一个系统特征。
它是一个全球性的斗争网络，由科技巨头编织并由科技巨头维护。被困在其中的人的沉默，正如 Mophat Okinyi 和 Richard Mathenge 所记录的那样，他们是前内容版主，现在是我们的数据工作者调查项目的联合研究员。两人已经看到这些模式在多个国家的许多不同公司中重复出现。他们作为工人和现在作为倡导者的经历强调了这种剥削的全球性。
在我前往肯尼亚之前，我以为我了解这些挑战通过我在网上与一些人的对话，数据工作者面临着一些问题。然而，抵达后，我面临着个人和机构堕落的故事，这给我带来了继发性创伤和数周的噩梦。但对于数据工作者本身来说，他们的创伤主要表现在两个方面：工作本身带来的直接创伤和加剧创伤的系统性问题。
每天，内容管理员都被迫面对人类最黑暗的角落。他们涉足暴力、仇恨言论、性虐待和图像的有毒沼泽。
持续接触令人不安的内容会造成损失。金斯告诉我，它超越了人类的本质。这就像每天被迫喝毒药，明知它会杀死你，但你无法停止，因为这是你的工作。这些图像和视频在下班后挥之不去，困扰着他们的梦境并渗透到他们的个人生活中。
许多主持人报告了创伤后压力和替代性创伤的症状：噩梦、闪回和严重焦虑很常见。有些人对周围的世界产生了根深蒂固的不信任，这种不信任因不断接触人类的残酷行为而永远改变。正如一位工人告诉我的那样，我进入这份工作时相信人性本善。现在，我不确定我还相信什么。如果人们能做到这一点，那么还有什么值得相信的呢？
当轮班结束时，创伤伴随着这些工人回家。对于国王和奥基尼来说，就像许多其他人一样，他们的关系在他们看到但无法谈论的重压下崩溃了。孩子们在情感疏远的父母的陪伴下长大，伴侣变得疏远，工人在痛苦中孤立无援。
许多版主报告说，他们的世界观发生了根本性转变。他们变得高度警惕，看到无处不在的潜在威胁。奥金尼提到，他的一位前同事由于对可能爆发的暴力事件感到偏执，不得不从城市搬到人口较少的乡村。在她为 Data Workers Inquiry 创建的一本关于 Samas 女性内容版主的杂志中，一位 Rantas 受访者谈到了这份工作如何让她不断质疑自己的价值和养育孩子的能力。
除了内容本身造成的直接创伤之外，版主还面临一系列系统性问题，这些问题加剧了他们的痛苦：
连锁反应不仅限于家庭：朋友渐行渐远，无法与主持人产生新的、更黑暗的生活视角；社交互动变得紧张，因为工人们在整天沉浸在最糟糕的人类行为中后，很难进行正常的对话。
本质上，内容审核的创伤重塑了整个家庭动态和社交网络，创造了一种孤立和痛苦的循环远远超出了个人的范围。
也许最残酷的讽刺是，我们通过伤害人类来创造机器智能的幻觉。未来人工智能系统不需要人类干预的承诺证明了对人类主持人造成的创伤是合理的。然而，它们的发展需要更多的人力，而且往往会牺牲工人的心理健康。
此外，对人工智能开发的关注往往会转移对改善人类工人条件的资源和注意力。公司在机器学习算法上投资了数十亿美元，却忽视了人类审核者的基本心理健康需求。
人工智能的错觉使用户远离了内容审核的现实，就像工厂化养殖使我们远离了鸡蛋的待遇一样。产蛋鸡。这种集体的故意无知使得剥削行为继续不受遏制。人工智能的叙述是一个烟幕弹，掩盖了一种非常不道德的劳动行为，这种行为以人类福祉换取技术进步的幌子。
面对面对剥削和创伤，数据工作者并不是被动的。在全球范围内，工人们都试图成立工会，但他们的努力常常受到各种行为者的阻碍。在肯尼亚，工人们成立了非洲内容版主联盟，这是一项雄心勃勃的努力，旨在团结来自不同非洲国家的工人。
Mathenge 也是工会领导层的一员，他告诉我，他认为自己被解雇了。由于他的工会活动而担任团队领导。这种报复向其他正在考虑组织起来的工人发出了令人心寒的信息。
工人权利的斗争最近获得了重大的法律支持。9 月 20 日，肯尼亚一家法院裁定，Meta 可能因其承包商 Sama 解雇了数十名内容审核员而在当地被起诉。法院维持了先前的裁决，即 Meta 可能因这些解雇而面临审判，并可能因涉嫌恶劣的工作条件而在肯尼亚被起诉。
最新裁决对于这家科技巨头如何处理其内容可能产生深远的影响全球版主。这也标志着公平对待和承认数据工作者权利的持续斗争向前迈出了重要一步。
障碍仍然超出了公司层面。马森格说，组织采用破坏工会的策略，经常解雇鼓动加入工会的工人。在与肯尼亚数字劳工领域的工人、记者和民间社会官员交谈时，出现了高级政府官员要求贿赂才能正式注册工会的低声传言，这给工会化进程增添了另一层复杂性。
也许大多数人奇怪的是，据青年领导的民间组织 Siasa Place 的一名官员称，当肯尼亚的工人试图组建自己的工会时，他们却被告知加入邮政和电信工会，这一建议忽视了这些行业与电信行业之间的巨大差异。当今数据工作者面临的独特挑战。
尽管遇到这些挫折，数据工作者仍在继续寻找创新的方式来组织和倡导自己的权利。Okinyi 与 Mathenge 和 Kings 一起成立了非洲技术工人社区，这是一个非政府组织，致力于游说反对劳动剥削等有害技术做法。
其他组织也加紧帮助工人，例如 Siasa Place，像 Mercy Mutemi 这样的数字权利律师已向肯尼亚议会请愿，要求调查人工智能公司的工作条件。