《投喂AI：人工智能产业的全球底层工人纪实》

一段车祸视频（引言）：默茜是肯尼亚内罗毕一家外包公司的内容审核员，替 Meta（原名 Facebook）审核社交平台上被举报的内容。她每个班次工作 10 小时，每 55 秒必须处理一条违规报告。一天她审核一段惨烈的车祸视频，发现遇难者之一是自己的祖父。主管安慰她，也提醒她再不回岗就完不成当天的任务，答应第二天放她一天假，劝她先把班上完。回到工位，新任务全是这场车祸的视频，有重复转发的，也有别的角度拍的。

作者在肯尼亚和乌干达走访了同一家公司的三个数据标注和内容审核中心。内容审核员负责删除违规内容、标记违反公司规定的帖子；数据标注员负责给数据打标签，让算法能够识别。两者都叫“数据工作”。据估计每位审核员每天要处理 500～1000 条违规内容，自杀、虐待、强奸影像“几乎每天”都看。公司的对策只是安排一名“健康顾问”，每周可咨询 30 分钟，而这名顾问其实是同事，没有心理咨询资质；被恐怖内容吓得离开工位的人，因为没在电脑上输入“休息”或“去厕所”而被扣效率分。多数人的合同只有 1～3 个月。人工审核的决定还被做成训练数据，用来开发自动审核的 AI（引言）。

什么是 AI（引言）：作者采用的定义是，AI 是一种基于机器的系统，通过处理数据生成决策、预测和建议。作者认为“AI”这个词更像营销术语，是计算机视觉、模式识别、自然语言处理等多种技术的总称。现在讨论的焦点是大语言模型（LLM，从互联网抓取海量文本训练出来、驱动聊天机器人的模型）。

咖啡杯和机械土耳其人（引言）：作者说，喝一杯咖啡，就参与了从咖啡豆到咖啡杯的全球供应链；同样，用搜索引擎、和聊天机器人对话，也会牵动全球的数据和资本，把各地的工人、公司和消费者连在一起。科技公司只展示光鲜、自主运行的机器，隐去背后拿着微薄薪水训练机器的人。

剥削机器的几个面（引言）：作者把 AI 称为“剥削机器”，从几个方面说明：

• 物质性：人们想到 AI，脑子里是发光的大脑和云朵，想不到数据中心里嗡嗡作响的服务器和海底电缆。作者说 AI 是有实体的，由芯片、服务器、电缆构成，要靠电力运转、靠水给服务器降温。
• 隐藏的人力：从标注数据、检查输出到调整参数，都要人来做。18 世纪末沃尔夫冈·冯·肯佩伦（Wolfgang von Kempelen）造的“机械土耳其人”（Mechanical Turk）号称能自动下棋，其实木偶里藏着一位真人棋手。作者说今天所谓 AI 自主运行，也是类似的把戏。
• 集体智能：AI 学会的每项技能都建立在人类知识构成的数据上，AI 企业再通过限制访问把这些集体智能变成私有财产。
• 对劳动者精力的榨取：这是最核心的一面。AI 系统集中了劳动过程的知识，把任务程序化、简单化，降低技能要求，让工作强度更大、节奏更快。作者认为这是 AI 给普通人带来的最大伤害。

将AI诠释为机器，就扔掉了其所谓客观与中立的幌子。所有机器都有自己的发展历史，人类基于自身在特定时间段的特定需求创造了这些机器。

引言

作者举了一个例子：一家德国车企要研发 L3 级（有条件自动驾驶）汽车，先买数千小时的视频数据集，再在菲律宾、肯尼亚、印度找了三家标注服务商反复重标，算力从亚马逊云服务租用、要提前数月预订；做出来的系统卖给物流公司，高速公路上的卡车自动驾驶，司机被改派去跑最后一段短途配送。作者说，从始至终，AI 的生产和使用都在汲取劳动力、资源、智能和价值（引言）。

从平台时代到 AI 时代（引言）：作者把 2005 年前后到 2022 年称为平台时代，此后进入 AI 时代。平台时代的公司是轻资产，爱彼迎没有房产，优步没有汽车；AI 时代硬件变得关键。亚马逊、Alphabet、微软、Meta 等老牌巨头，加上 OpenAI、Anthropic、英伟达等初创企业和芯片商，构成作者所说的“大AI”。它们拥有作者所说的“基础设施力量”：控制训练大模型所需的数据中心、海底光缆和 AI 芯片。初创公司起步就要大笔资金，只能和云服务商结盟，财富和权力因此更集中。

殖民的延续（引言）：作者认为 AI 的生产方式并不新，和以往工业生产中控制、剥削劳动力的方式很像。稳定高薪的岗位集中在美国大城市，不稳定、低薪、危险的岗位外包到“全球南方”（新兴市场国家和发展中国家）；关键矿产在“全球南方”开采，再运去别处做成芯片；生成式 AI 的数据集和评测基准大多基于西方知识体系。

我们认为，AI的生产方式并不新鲜。事实上，它与以往工业生产中对劳动力的控制和剥削方式非常相似。

引言

默茜住过的基贝拉被称为非洲最大的城市贫民窟，一条铁路从中穿过。内罗毕 1899 年作为乌干达铁路的补给站建起，这条铁路由英国出巨资修建，连接维多利亚湖和蒙巴萨港，作者认为它是“开采”殖民地资源的手段。2009 年，东非第一条海底光缆在离旧铁路终点不远的蒙巴萨登陆，肯尼亚政府提出要在外包领域创造数万个岗位。作者说，铁路和网络做的是同一件事：把基贝拉这样的地方的劳动者接进全球网络（引言）。

尽管付出劳动和创造价值的是世界上最贫困的人口，获利的却主要是欧洲和美国的大型科技公司。这不是一个偶然性的错误，而正是AI机制的设计初衷。

引言

但是，AI的未来并不一定非得如此。如果要改变这台剥削机器，就需要先理解它。

引言

安妮塔的一天（第 1 章）：安妮塔住在乌干达北部城市古卢郊外的小镇，和母亲、姐姐、3 个孩子一起生活。她每天 5 点左右出门，步行两小时上班，因为坐摩的来回要 4 美元。古卢是乌干达内战的产物：1996 年政府驱逐周边居民，13 万多名难民涌入，这里从分散居住、以贸易为主的地区变成拥挤的贫民窟，今天约 1/3 的年轻人既没上学也没工作。她工作的交付中心属于一家总部在旧金山的大型数据标注公司。她的项目是看司机驾驶录像，司机分心或打瞌睡时记录下来，用来做车内行为监控系统。她以这份工作为荣，觉得是在推动尖端技术；可工资只够孩子学费、保姆费和照顾母亲。

工位上的纪律（第 1 章）：数百名标注员成排坐着，约 20 人一组，组长巡视。主要数字：

• 每周工作 45 小时，月薪约 80 万乌干达先令，折合每小时约 1.16 美元；
• 绩效目标定在效率最低的 10%～15% 的人达不到的水平，大家变快了，主管再提高标准；当天完不成要无偿加班，一周落后太多周末也要无偿加班；
• 一般项目准确率不得低于 95%；10 小时里休息不得超过 1 小时，效率分低了，组长就用后台软件查看屏幕；
• 大多签一两个月的短期合同，项目结束的人进入“候补名单”等活儿。

她的名字在主管后台显示为绿色，完不成就变红。有女员工讲到生育歧视和性贿赂，一些管理者以聘用、晋升、留任为条件索取性贿赂。作者向公司反映后，公司表示零容忍，并对人力资源等管理人员做了培训（第 1 章）。

从种植园到标注中心（第 1 章）：作者认为这种集中管理、严格纪律的模式可以追溯到殖民时期。17 世纪巴巴多斯的甘蔗种植园实行“群体制度”：监工盯着一群奴隶同时做同样的重复劳动。19 世纪 40 年代美国南方的棉花种植园开始记录每个奴隶每天的采摘量。1878 年，泰勒在费城一家钢铁公司开始建立科学管理的雏形。作者承认工厂和种植园有根本区别，雇佣劳动取代了奴役，但延续关系不可否认。

群体制度的真正创新在于监控的是工作过程中的努力程度而非结果，这种做法能够确保持续和高强度的工作节奏。

第 1 章，AI数据标注中心的内部

作者说，今天标注员受到的数字化监控，严密程度超过了最严苛的种植园主和工厂主：进楼要生物识别扫描，到处是摄像头，每一秒都被效率软件记录；在作者走访的公司，员工普遍认为哪怕谈论组建工会都会丢饭碗（第 1 章）。

人机闭环（第 1 章）：要让自动驾驶汽车分清汽车、红绿灯和行人，得输入几百万个标注好的例子；2018 年美国亚利桑那州一辆自动驾驶汽车撞死一名推着自行车过马路的行人，原因是系统没认出她是行人。书中说大约 80% 的 AI 训练时间花在标注数据上。技术评论员菲尔·琼斯（Phil Jones）说：“事实上，机器学习的魔力就在于数据标注这种琐碎的工作。”

标注工作有两条供给渠道（第 1 章）：

• 众包平台：如亚马逊机械土耳其人、Clickworker、Appen，每项任务只付几美分，工作者时薪约 2 美元，没有福利。玛丽·格雷和西达尔特·苏里在《销声匿迹》（Ghost Work）中发现，多达 30% 的任务拿不到报酬；作者的研究发现，工作者平均每周花 8.5 小时在找活儿等无薪劳动上。
• 业务外包公司：如安妮塔的公司，兴起于 20 世纪 90 年代的外包潮，聚集在印度、肯尼亚、菲律宾。客户选它们，是因为它们培训标注员，还能更好地保护数据不外泄。

有些公司打出“AI伦理”的旗号，说要靠外包帮“全球南方”脱贫。作者对此存疑：市场竞争会迫使公司优先给投资者赚钱，廉价劳动力就意味着从脆弱的劳动者身上榨取最大价值（第 1 章）。

有人说合成数据（算法模仿真实数据生成的数据）很快会取代人工标注。作者认为合成数据会越来越多，但在不同领域普及程度不同；研究还发现，用模型生成的数据反复训练，模型会越来越偏向常见结果，甚至崩溃。合成数据同样需要人来分类和检查，所以标注这类工作不会消失，还要靠“人机闭环系统”纠正和检查机器的输出（第 1 章）。

血汗工厂是设计出来的（第 1 章）：

这样的劳动管理制度已经不再是缺陷，而是被当作行业特点。外包公司在行业中也面临巨大竞争压力，这种制度是刻意设计的。

第 1 章，全球数据标注劳动力市场

作者反驳托马斯·弗里德曼（Thomas Friedman）在《世界是平的》（The World is Flat）里的乐观看法。他承认世界确实连起来了，古卢已经通了光纤；但连上网不等于能平等谈判，以为乌干达的外包公司能和 Meta、特斯拉平起平坐，“那他们就太天真了”。

但弗里德曼的观点也有缺陷，根本问题就在于连接平等并不等于议价能力平等。

第 1 章，全球数据标注劳动力市场

数据标注是买方市场。西方车企把工厂迁到中国、墨西哥要花大钱，转移标注工作却几乎没有成本，于是全球的工资和条件一路下滑。地理学家大卫·哈维（David Harvey）说，“工人们晚上都得回家”：工作能流动，人不能。作者研究的这家外包公司，美国管理团队中一位高管的年薪，相当于 1000 多名非洲员工月薪的总和（第 1 章）。

这一周数据标注工作分配给了乌干达，下一周同样的工作就可能转给菲律宾。

第 1 章，全球数据标注劳动力市场

作者认为，外包公司的管理者能做的有限：最低工资、休息时间这些关键条件，是科技公司客户在合同里定的。这也正是可以施压的突破口（第 1 章）。章末，安妮塔想攒钱转行卖家具，但还缺启动资金；第三个孩子快上学了，工资只够老大、老二的学费。她只盼下一个项目“只要跟现在有一点点不同就够了”。

生产链的另一端（第 2 章）：李住在伦敦肖尔迪奇区，是一家初创公司的机器学习工程师，公司在开发大语言模型 Minerva，打算直接卖给企业。她管两个标注团队：菲律宾的外包团队做“基于人类反馈的强化学习”，即给模型的几个回答按准确性和实用性排序，让模型学会给出更符合用户意图的答案；伦敦的团队时薪体面，写高质量的答案范本。一次向荷兰客户演示时，模型用粗俗的话描述阿姆斯特丹的夜生活，原来是一名标注员开的玩笑被模型学了去。公司没有伦理指导政策，标注员遇到“哪些球队赢得过世界杯”该不该包括女足这类问题，只能自己拿主意。直到媒体报道肯尼亚低薪数据工作者，公司怕负面曝光，才开始制定外包管理方案。

ChatGPT 并不聪明（第 2 章）：二战时，图灵（Alan Turing）在布莱切利园的棋友唐纳德·米基（Donald Michie），1963 年用 300 多个火柴盒和彩色珠子做出会下井字棋的 MENACE：每个火柴盒代表一种局面，输了就撤掉相应的珠子，赢了就添。它棋力提高很快，但“MENACE并不理解井字棋”。作者认为大语言模型也是这样：它按统计概率猜下一个词，处理的是字符之间的关系，不懂语言背后的意思。艾米丽·本德（Emily Bender）把这类模型称作“随机鹦鹉”。

问题不在于这些程序如何运作，而在于我们与这些机器交流时会忘记它们是机器。与AI聊天时，我们会错认为它具备一定的理解力和意图。

第 2 章，ChatGPT并不聪明

书中举的例子：问模型汤姆·克鲁斯的母亲是谁，79% 的情况能答对；反过来问这位母亲的儿子是谁，正确率只有 33%。模型还会编造法律案例、引用不存在的书。作者也批评 OpenAI 以竞争和安全为由，不公开模型的架构、数据和训练方法，称之为“AI研究透明度上的重大退步”（第 2 章）。

AI 会不会抢走工作（第 2 章）：高盛估计多达 3 亿个岗位可能被自动化或 AI 取代，麦肯锡估计 4 亿～8 亿。作者认为这些数字不可尽信：咨询公司的工作就是给客户所在的行业造势。2013 年牛津两位研究者估计美国 47% 的岗位面临高风险，后来并没有成真。国际劳工组织 2023 年的报告认为生成式 AI 主要起辅助作用；文职岗位最容易被替代，而文职多由女性从事，所以女性被取代的概率是男性的两倍。作者判断冲击最大的是软件开发，其次是广告、营销、新闻中的文字写作，以及法律、金融里的文本整合。

使用大语言模型的最大风险，就是夸大其功能和生产力，导致人们未经深思熟虑，就将它们应用于众多行业。这样一来，决策权就从可以充当责任主体的人类移交给了不受监控、无法追责的机器。

第 2 章，机器能否取代你的工作

真正的危险在眼前（第 2 章）：关于 AI 危害有两派，一派担心通用 AI（AGI）超越人类、毁灭人类，杰弗里·辛顿（Geoffrey Hinton）、约书亚·本吉奥（Yoshua Bengio）等人 2023 年签署声明，把 AI 灭绝风险和流行病、核战争相提并论；另一派关注眼下的偏见、隐私、环境等危害。作者站在后一派。

现在的AI连仓鼠水平的自主意识都没有，更别提什么超级AI了。大语言模型不会在早上醒来时思考要不要忠于人类。

第 2 章，算法审判日

作者列了三项现实风险：一是虚假信息，AI 能和数百万人量身定制地一对一互动；二是生物和化学武器，2022 年研究人员把一个药物分子设计模型的奖励反过来，不到 6 小时它就生成了多种化学战剂；三是放大偏见和刻板印象（第 2 章）。

偏见从哪里来（第 2 章）：作者认为偏见有三个来源。一是训练数据，维基百科、Reddit 等平台的用户以年轻、白人、男性、美国人为主。二是开发者，据《斯坦福AI指数报告》，2021 年新获 AI 博士学位的人中男性占 78.7%。三是地域和意识形态，大实验室集中在硅谷，理查德·巴布鲁克（Richard Barbrook）和安迪·卡梅隆（Andy Cameron）1995 年把那里的思潮称为“加州意识形态”。后果已经出现：荷兰鹿特丹用算法给福利申请人打欺诈嫌疑分，单身女性、单亲家庭、荷兰语不熟练的人都会被打高分。作者认为这通常不是恶意，而是设计者的盲点。阿尼巴·奎加诺（Aníbal Quijano）所说的“知识的殖民性”，即认为欧洲世界观普适且更优越，也被带进了 AI 的分类方式。

AI所采用的视角不仅跟数据集来源有关，其实说白了，是和权力相关：谁有权，谁就能左右AI的发展。

第 2 章，设计上的偏见

章末，李的公司拿到数千万美元 A 轮融资（初创公司早期的第一轮正式融资），高管希望估值早日超过 10 亿美元。李收入丰厚，却觉得自己只是机器里的一颗齿轮：她怀疑模型有很大的偏见，但“经济利益永远是王道”（第 2 章）。

就像第一代社交媒体平台利用技术靠线上社交活动获利一样，如今的AI公司正将自由共享的知识私有化，再包装成产品卖给公众。

第 2 章，设计上的偏见

冰岛小镇的数据中心（第 3 章）：埃纳尔是冰岛北部一家新数据中心的设施经理，中心只有三名常驻员工。他的家乡布伦迪欧斯不到 900 人，从没有大公司落脚。中心做主机托管，客户租空间放服务器；总供电 50 兆瓦，可供 10 万户家庭，电来自附近的水电站，100% 可再生。两栋楼里还放着比特币矿机，那是冰岛数据中心业的“历史遗物”；如今中心转做高性能计算，自称“在大自然的心脏赋能AI”。为了让一家巴黎大银行元旦前上线，技术员们干到 12 月 31 日下午 6 点。埃纳尔是正式员工，作者说他比许多大公司数据中心里的临时工和承包商员工幸运。

冷，就是卖点（第 3 章）：冰岛的卖点是气候冷、电便宜。服务器冷却约占数据中心能耗的 40%，冰岛沿海冬季均温约 0℃，可以直接用外面的冷风降温；电来自水电和地热，岛上的电又没法输出到欧洲，电力公司愿意以优惠价签 10 年长约。冰岛只有 10 个数据中心，英国和德国各有 500 多个，但这个产业已占冰岛 GDP（国内生产总值）的 1%～2%。冰岛的数据中心业起家于加密货币挖矿，书中说 2017 年约 90% 的容量用于挖矿；作者说，转向“可持续”和 AI 之后，耗电并没有下降，只是用 AI 替换了加密货币。

AI 的动脉（第 3 章）：98% 的互联网数据经海底光缆传输，光缆只有花园水管那么粗。作者把机器学习模型比作互联网的“大脑”，光缆是“动脉”。

海底光缆看起来只是很无趣的通信工具，和沉在海底的其他物品没什么不同，都是死气沉沉的。但哪里有连接，哪里就有控制的欲望。

第 3 章，AI的动脉

光缆常沿着旧的电报线路和殖民航线铺设。19 世纪英国建立连接全帝国的电报网，到 19 世纪末掌控了世界 2/3 的海底电缆；1914 年对德宣战后的第一个措施就是切断德国的主要电缆。如今铺光缆的从电信财团换成了科技公司：谷歌自 2018 年起已拥有或投资 19 条光缆，Meta 也委托建造跨大西洋光缆。作者认为科技公司不仅掌控数据基础设施，也在逐步掌控人们的数据生活（第 3 章）。

谁握着算力（第 3 章）：作者认为 AI 的瓶颈不在数据，而在算力和顶尖人才。超大规模云服务商把海量计算和存储资源出租给远程客户，几乎所有 AI 公司都得接受它们的条款、向它们付费。前五大公司（谷歌、Meta、亚马逊、微软、苹果）拥有的 AI 人才，是第 6 到第 10 名总和的 10 倍。

基础设施是AI行业最为重要且不可或缺的部分。非技术劳动力成本低廉，且获取容易，而算力资源十分稀缺，且被牢牢掌握在行业巨头手中。

第 3 章，数据基础设施的力量

如果把AI看作剥削机器，数据中心就是这台机器的关键部件。它是机器的引擎，将电力、水、劳动力、关键矿产和数据转化成运行AI模型所需的算力。

第 3 章，数据基础设施的力量

电、水和二等员工（第 3 章）：爱尔兰的数据中心预计 2028 年将消耗全国约 27% 的电力，国有电力公司 2022 年宣布 2028 年前不再受理都柏林地区的新数据中心申请。一个大型数据中心每天耗水 1100 万～1900 万升，相当于一个 5 万人口的美国小镇；2023 年乌拉圭遭遇 74 年来最严重的干旱，谷歌在当地的数据中心计划引发抗议。科技公司说数据中心会带来大量高薪岗位，实际只需要技术员、保安、清洁等少数人；许多大公司还大量使用 TVC 员工（临时工、外聘人员和合同工），合同短、同工不同酬，在公司里被当作“二等公民”。记者塞巴斯蒂安·莫斯问：“现在是数据中心的繁荣期。资金不断涌入数据中心，但它们怎么就付不起工人的工资呢？”

军备竞赛（第 3 章）：中美两国在 AI 上的投资高于其他国家的总和。AI 离不开铜、钴、锂、镍等关键矿产，大部分钴产自刚果（金），大部分镍产自印尼，中国主导多种矿产的加工提炼；芯片则依赖英伟达的 GPU（图形处理器，原本用于图形处理，后来被用来训练 AI）和台积电的制造。2022 年 10 月美国禁止向中国出口新型芯片。作者认为，各国政府的投入和巨头的投资相比是“九牛一毛”，巨头已经开始左右各国的 AI 产业政策。

科技公司将它看作挣钱的机器，国家将它看作军事、经济制胜的武器。这些观念可能无法引导AI朝造福人类的方向健康发展。

第 3 章，AI领域的军备竞赛

章末作者说，冰岛无论多努力，在全球 AI 网络里都只能扮演边缘角色；对埃纳尔来说这不成问题，冰岛电网容量有限，正好稳步承接对速度要求不高的数据业务（第 3 章）。

被克隆的声音（第 4 章）：劳拉是爱尔兰的职业配音演员，近二十年给广告、动画、游戏、有声读物配音。她在一个网站上看到一个亚洲女性虚拟形象，宣称有标准的爱尔兰口音，点开一听是自己的声音。原来几年前她给一家大型科技公司录音时，合同里有一条：公司“永久”拥有她的声音版权。公司把录音卖给第三方，第三方合法地做出了虚拟配音员，报价只有真人的 1/10。律师说，这不道德，但不违法，法律没跟上技术。

没有创作者的作品（第 4 章）：生成式 AI 用的数据集难免混进受版权保护的作品。图像生成器 Stable Diffusion 用 LAION-5B 训练，这是从互联网抓取的 58 亿个图文对；Midjourney 创始人大卫·霍尔兹（David Holz）承认，未经在世创作者同意就用了他们受版权保护的作品。

AI公司实际上在出售本不属于它们的东西：图像生成工具的价值建立在人工原创作品的基础之上。

第 4 章，没有创作者的作品

这些公司将科技产业的经典座右铭“快速行动，破除陈规”扭曲为“快速行动，窃取成果”。

第 4 章，没有创作者的作品

一位受访配音演员说，过去版税按销量算，现在不管卖多少都只付一笔固定费用。

创作者向来处于价值链底端，其他人都在压榨他们。这个问题由来已久，AI不是始作俑者，但它让事情变得更糟糕了。

第 4 章，没有创作者的作品

作者认为不能夸大当前的 AI：在高预算的大制作里，人类的创意仍占上风。先消失的是低端工作，比如录单词读音、英语学习音频、企业宣传片旁白，而这些正是很多创作者赖以为生的收入。2018 年的一项调查显示，近一半视觉创作者 90% 的收入不来自艺术创作。作者担心这类工作没了，只有家境优越的孩子才能投身艺术（第 4 章）。

罢工的成果（第 4 章）：2023 年，美国编剧工会（11500 名会员）和美国演员工会（代表 16 万名演员及媒体从业者）先后罢工。9 月编剧达成协议：AI 不能参与剧本写作和修订，电影公司不得用剧本秘密训练 AI，作者称之为“巨大的胜利”。演员工会 12 月达成的协议也写进了 AI 条款，但细节含糊，比如什么算“可识别特征”。配音演员是最容易被取代的群体，也是抗争主力，他们成立了涵盖 20 多个工会和协会的国际联盟，要求任何克隆人声都须获得本人明确同意。

AI 有没有创造力（第 4 章）：阿达·洛芙莱斯（Ada Lovelace）认为机器只会执行指令；图灵提出“模仿游戏”，作者批评它只鼓励欺骗；塞尔默·布林斯约德（Selmer Bringsjord）团队提出，程序员解释不了 AI 怎么创作出来的，AI 就算有创造力，作者认为这个标准只看过程、不看质量。作者提出自己的“创造力测试”：产出要有原创成分，并且在某种意义上对人类社会有价值。作者承认这个测试不可避免地带主观性，只是帮助思考的工具。

如果AI可以产出有价值的新内容，那么AI就算拥有创造力。

第 4 章，创造力测试

按这个测试，作者的判断分领域：DeepMind 的 AlphaZero 只被告知规则，靠自我对弈下出了颠覆人类直觉的新招，有创造力；图像生成器能创造性地重组元素，2018 年一幅用生成对抗网络（GANs，两个神经网络一个生成、一个评判）画的肖像在佳士得以 43.25 万美元成交；AI 写作则离通过还很远。作者的结论是，在某些 AI 身上看到了创造力的潜力，但仍认为 AI 还不能创造真正的艺术作品（第 4 章）。

为什么 AI 复制不了卡拉瓦乔（第 4 章）：作者给了几条理由。艺术是有意识的表达，而 AI 没有意识，也不理解训练数据；人对世界的理解根植于身体，能感到自己的脆弱和有限，艺术帮人应对痛苦；康德认为伟大的艺术是在社群中发展的社会活动；海德格尔认为艺术让一个民族看见关于自己的真理；艺术还有揭露谎言、批判权贵的政治功能，作者引奥威尔的话：“我写书就是为了揭露一些谎言，引发人们对真相的关注。”

摄影没有杀死绘画（第 4 章）：作者把今天的恐慌称为“新事物的诅咒”。19 世纪中叶，人们担心摄影取代绘画，波德莱尔说摄影是天赋不足或懒惰的人的避难所。后来摄影成了独立的艺术，画家转向光线和色彩，印象派等流派兴起；但肖像画家这类职业确实被淘汰了。作者认为，新技术不会轻易取代旧艺术。

AI的真正风险可能不是取代人类艺术，而是被别有用心的商业集团利用，通过剥削创意工作者来赚取更多利润。

第 4 章，新事物的诅咒

汽车城里的新仓库（第 5 章）：考文垂曾是英国汽车制造中心，被称为“英国的底特律”。20 世纪 70 年代末的去工业化对这里的破坏“远甚于炸弹”，2005 年布朗巷的捷豹工厂关闭。亚历克斯原在一家为捷豹供应内饰的分包商当机床操作员，公司 2017 年关门，500 人失业。2018 年亚马逊在捷豹工厂旧址建起仓库 BHX4，许多捷豹老员工回到这里上班。新工作工时更长、工资更低，“但至少亚马逊不会倒闭”。

亚马逊的仓库定在了后工业时代的工厂旧址，雇用了后工业时代汽车制造业的失业者。

第 5 章

一天 140 多万件（第 5 章）：仓库每天约 600 名员工。那天晨会专门讲工会，组长举着海报，劝大家与其花钱加入工会，不如先免费跟公司聊聊。当天要处理 140 多万件货，远高于平常，因为港口工人罢工，整个网络积压。亚历克斯在收货区，全程不用跟任何人说话；出货区赶上这样的日子，每 15 秒就得搬完一个周转箱。仓库里除了经理办公室没有椅子。扫描仪检测不到动作就记为“空闲时间”；每天两次休息、每次 30 分钟，一分钟都不能多。

速度不达标或空闲时间过多的员工要进入强制绩效改进流程，达不到要求就被解雇。公司以前公布速度要求，后来改为只通知排名后 1/4 的人提速。作者指出，这种相对目标意味着即使人人都很快，也总有人排在后 1/4，没有人是安全的（第 5 章）。

亚历克斯在这个部门干了 5 年，处于“极度沮丧”的状态。工位上永远只有他一个人，他最常想的问题是“我这辈子究竟在干什么？”。以前他骑车上下班，现在累得骑不动了（第 5 章）。

SCOT：亚马逊的剥削机器（第 5 章）：亚马逊的物流网络由 SCOT（供应链优化技术）团队管理的一套系统调度。亚马逊的技术文献说，商城是身体，SCOT 是神经系统。它有四项功能：

• 预测需求：用神经网络根据用户点击预测数百万种商品的销量，向厂家下单、通知仓库备好空间；
• 计算投入：算出整个网络需要多少设备和人手，甚至为新仓库选址；
• 规划交付：顾客点“立即购买”的那一刻，决定从哪里发货、怎样合并订单、走哪条路线；
• 管理执行：根据每人每小时的扫描量生成工作指标。据 2019 年的亚马逊内部文件，系统会自动追踪效率低的员工，长期不达标的会被系统自动解雇。

此外，仓库每个角落都有摄像头；站点上的计算机视觉系统 Nike 记录货品放在货架哪一格，处理不了的约 5% 视频交给印度和哥斯达黎加的标注员；大部分配送货车装有用摄像头和 AI 监控司机的系统（第 5 章）。

作者反对“物流大脑”的说法，认为它给 AI 披上神秘面纱，让人以为系统的决策无可挑剔。员工扫描条形码，就像锅炉工把煤送进蒸汽机，把数据喂给系统。

它所体现出来的智能，是从员工的大量工作中提取出来的，是这些仓库和物流员工的日常工作创造了AI系统所需的数据。

第 5 章，亚马逊的剥削机器——SCOT

福特流水线的回声（第 5 章）：流水线出现前，一辆车由几位老师傅依次完成，节奏自己掌握。1913—1914 年福特建成流水线，组装一辆 T 型车从 12 小时缩短到 93 分钟，工作节奏改由流水线速度决定。1914 年福特给通过审核的工人每天 5 美元奖励，为的是留住工人，当时工人流失率高达 380%。作者说，即便工资翻倍，和流水线带来的利润相比也不值一提。

生产力的进步并没有将劳动者从工作中解放出来，相反，创新的主要受益者往往是投资者和公司所有者。

第 5 章，亚马逊的剥削机器——SCOT

作者认为，流水线和今天的 AI 系统一样，都是把知识和决策权集中到管理者手里的手段（第 5 章）。

你未来的老板可能是机器（第 5 章）：作者认为 AI 管理不是全新的东西，而是把仓库和呼叫中心的监控扩展到更多人，尤其是白领。2018—2021 年市面上出现了 550 多种数字化管理或监控员工的产品；有的软件记录按键、屏幕和位置，有的分析邮件和录音来评估员工情绪，有的给员工算“脆弱性分数”，预测谁可能加入工会或辞职。招聘也用上了 AI：2014 年亚马逊开发的简历筛选程序，因为训练数据里成功求职者多是男性，学会了给含“女子”字样的简历降级，修补无效，2018 年弃用。作者认为，根据语言、语调和屏幕表现预测工作表现的做法“基本上就是伪科学”。

罢工（第 5 章）：有研究者称亚马逊实行的是“技术经济专制”，作者不同意。

但历史一次又一次地证明，再密集的现代管理技术都不能熄灭劳动者维权的热情，相反，它会催生出新的反抗方式。

第 5 章，罢工

2022 年夏天物价飞涨，有的同事每周工作多达 60 小时，有人下班后还去开优步。8 月通胀率达到 10%，员工盼着时薪至少涨 2 英镑，结果只涨了 50 便士，而疫情期间亚马逊的利润涨了 220%。埃塞克斯郡蒂尔伯里仓库的员工自发罢工，视频在网上疯传，第二天就有 5 家仓库罢工。BHX4 的员工在休息时看 TikTok 上的罢工视频，商定午餐时罢工，几分钟内 300 人离开工位。到结束时，仅英国就有 11 个仓库发生了 22 次罢工（第 5 章）。

作者说，自发罢工没争到加薪，但罢工后没有大规模裁员，员工开始相信工会能帮他们赢。亚历克斯原本犹豫，父亲当年是积极的工会成员，最后失败了。让他下决心的是一位 60 岁左右的老工友：以前一周干 4 天，留一天钓鱼；现在要干五六天才能维持生计。当晚亚历克斯就在手机上加入了工会。到 2023 年年底，BHX4 员工的罢工时间累计超过 30 天（第 5 章）。

亚马逊的管理体系非但没有抹除劳动者的政治角色，反而在欧洲和北美洲等各大城市周围的非工业化地区孕育出了一个新的劳动者阶层。

第 5 章，罢工

会议室里的决定（第 6 章）：泰勒是硅谷一家风险投资公司的合伙人，由单亲母亲在加州内陆城市圣贝纳迪诺带大，当过人权律师，后来觉得做投资人更能改变世界。他的基金管理 5 亿美元，只投科技；大多数被投公司可能永远不盈利，只要个别公司成功就够了。他关注的一家公司用工作场所现有的监控视频识别安全隐患，卖给港口、交通枢纽、仓库，还在亏损。他想了两个办法：一是把系统改用来监测偷盗，卖给杂货店和仓库；二是降成本。上个月最大的支出是数据标注，标注员在美国亚拉巴马州伯明翰，时薪约 15 美元。他是办公室里唯一会从伦理角度掂量的人，但还是告诉自己“生意就是生意”，在手机上记下：“我们能降低数据标注成本吗？”

AI 热（第 6 章）：2022 年科技业陷入困境：利率上涨、通胀，Meta、Alphabet、亚马逊先后大裁员；Meta 押注元宇宙，2022 年投入 137 亿美元，加密货币交易所 FTX 倒闭。2022 年 11 月 ChatGPT 推出，生成式 AI 成了硅谷的救命稻草。作者说，对投资者来说，AI 能不能用得上是次要的。

对投资者来说，AI在现实世界中的前景是次要考虑因素。只要他们能抬高股价，使估值持续飙升，便无人质疑，AI的狂欢就可以继续下去。

第 6 章，AI热

OpenAI 起初是非营利机构，2019 年改为“利润封顶”架构，作者认为商业竞争已经撕碎了这层伪装。Anthropic 由 OpenAI 前员工创立，先后获得谷歌、亚马逊的投资，亚马逊成为它的首要云服务商。作者认为，AI 开发需要巨额资本，许多高估值初创公司只能依附老牌巨头，巨头也就能在一定程度上左右初创公司的方向（第 6 章）。

风投的来历（第 6 章）：作者认为资本主义是从田间地头开始的。中世纪英国的庄园法给农民共同使用土地的权利，还要求领主在种什么、何时休耕上服从集体决定；圈地运动废除了这套规矩，建立起以私有产权为基础的法律制度，不拥有土地的人在经济里没有了发言权。资本主义扩张到加州时带着种族灭绝：原住民从欧洲殖民者到来时的近 30 万，降到 1880 年的 16277 人。此后加州农业靠一批批外来劳工，一组被排斥，就换另一组补上。

硅谷也不是私人资本单独造出来的。二战和冷战期间，大量军费流入斯坦福等地，1955—1965 年美国的相关研究资金从 2.86 亿美元增至 16 亿美元。历史学家玛格丽特·奥马拉认为“美国政府是硅谷的首位，或许也是最杰出的风投家”。1959 年第一个风投基金在帕洛阿尔托成立，联邦政府又用减税和贷款扶持这个行业（第 6 章）。

尽管公共资金对基础科研的投入为科技产业的兴起奠定了基石，但风投家从未承担使投资造福于公众的民主义务。

第 6 章，加利福尼亚州风投的故事

不民主的技术发展（第 6 章）：作者反对把技术看成自然演进，认为它遵循的是追求利润与增长、扩张与支配的规则。决策由资本所有者和他们的代理人在董事会会议室里做出，底层员工很少参与。科技精英的政治立场从进步派到保守派都有，但在一点上有共识，作者称之为“创始人心态”。

我们称这种共识为创始人心态，即认为初创公司创始人和科技公司的首席执行官是做出关键决策的最佳人选，应由他们来决定哪些技术获得资助以及如何开发这些技术。

第 6 章，不民主的技术发展

作者举了两个人。扎克伯格支持多项进步事业，却靠特殊的投票结构掌握 Meta 61.1% 的投票权；被问到亿万富翁的权力时，他说让一小撮富人决定资助哪些科研“在某种程度上，这确实不公平，但或许这是最优解”。彼得·蒂尔（Peter Thiel）偏右翼，主张取消监管，他创立的 Palantir 向警方和军方出售数据分析和监控服务。作者认为两人的政治哲学不同，但都相信应由自己来引导新技术（第 6 章）。

他们相信“科技向善”，并为此投入了大量时间和金钱。但他们从没思考过对某个群体的“善”可能会伤害另一个群体。

第 6 章，不民主的技术发展

在AI领域，只有少数人拥有权力，他们的权力大到足以改变世界，而大多数普通的AI工作者几乎没有发言权。

第 6 章，不民主的技术发展

章末，泰勒决定强烈建议创始人把标注工作从亚拉巴马转到东非，能省 70% 的成本。他说服自己：只因为“全球南方”工资低就不给那里的人工作机会，不是更不公平吗？他浏览东非标注公司网站上标注员微笑的照片，觉得自己的工作“能改变世界”（第 6 章）。

从请愿到工会（第 7 章）：保罗是默茜的同事，也在内罗毕做内容审核。他在例会上当众抱怨工单时间太短、审核内容造成心理创伤，同事纷纷响应。公司把线下会改成线上会，带头的人被严密监控。保罗建了聊天群，几周后写出请愿书，要求薪酬向世界其他地区看齐、关心员工心理健康，近 200 人签名。公司以“欺凌同事”为由解雇了保罗。他联系国际媒体曝光，公司干脆终止了与那家社交平台的合作，数百名审核员被解雇，订单转给另一家待遇更差的公司。2023 年国际劳动节，150 名数据工作者在内罗毕投票成立 ACMU（非洲内容审核员工会），这是非洲第一个内容审核员工会。

我们抗议的筹码之一是雇主害怕声誉受损。他们希望全世界都认为他们是有良知的。但我们想让全世界了解我们的真实处境。

第 7 章

数据工作者为什么难团结（第 7 章）：作者和 ACMU 的三位组织者罗斯、穆罕迈德、布莱恩交流后，归纳出几个原因：

• 技能被拆解：任务只需极少培训就能上手，审核经验在当地换不到别的工作；
• 工作能全球转移：审核员要和全世界竞争，经理常说“为了和印度公司竞争，拿下这个项目，我们不可能提高工资”；
• 失业率高：随时有一大批人等着接替；
• 生产网络不透明：劳动者大多不知道客户是谁、自己的工作用在哪里；
• 外包公司不直接面对消费者，不太在乎声誉。

劳动者被整合到一个系统中，需要按照标准化的方式进行工作。这既导致了工作的机械化，也造成了劳动者技能的退化。实际上，这些数据工作者已成为公司算法的一部分。

第 7 章，数据工作者能团结吗

从客户的角度看，数据工人在哪里工作都无所谓，哪怕是在月球上，也没问题。

第 7 章，数据工作者能团结吗

两种策略、两种瓶颈（第 7 章）：作者说，议价能力有限的劳动者主要有两种策略。一是“阻断流程”，用罢工或怠工集体停工；二是“敲响警钟”，通过曝光批评制造舆论压力，逼企业兑现自己宣扬的理念。罢工在劳动者占据关键位置时最有效，这样的位置有两种：

• 拓扑瓶颈：货物必须经过、工作必须由特定的人完成的位置，如港口工人、空中交通管制员；
• 时间瓶颈：工作必须在特定时间内完成，如医生护士。

作者认为数据工作者其实握有拓扑瓶颈：没有审核员，社交平台转不动；没有人检查输出，大语言模型无法运作。书中的例子是越南胡志明市的一家外包公司：一家欧洲邮政公司每天处理约 1000 万封信，机器认不出的约 20% 信封图像实时传到越南，500 名员工要在信还在欧洲分拣机里时，30 秒内录入地址，超时就要交给工资高得多的欧洲工人手工处理。越南这边出一点故障，欧洲那边就会大幅变慢（第 7 章）。但曝光批评只对知名公司管用，所以作者认为数据工作者要把自己的处境和最终享用成果的大公司联系起来。

高薪技术工作者的组织（第 7 章）：美国只有约 1% 的科技工作者是工会成员，但他们近年也开始组织起来。2016 年大选后，科技工作者发起宣言，拒绝为美国政府开发按种族、宗教或国籍针对个人的数据库，一周内近 3000 人签名。TWC（科技工作者联盟）2014 年成立，关注三类议题：职场标准、多样性、伦理和政治。几个例子：2018 年全球 50 多个城市的 2 万名谷歌员工罢工，抗议公司掩盖性骚扰指控；谷歌员工抵制为美国军方分析无人机画面的 Maven 项目，5000 人联名，谷歌最终没有续约；2019 年谷歌解除一批外包工的合同，900 多名正式员工签名要求善待外包工，谷歌随后提高了美国外包员工的最低薪酬标准，并提供全面医疗保险。作者认为这种向核心企业施压、改善外包员工待遇的做法，应该推广到全球。

我们来这里工作不是为了开发武器，我们要求对工作成果的用途有发言权。

第 7 章，AI生产网络中的技术工作者组织

作者说，高级技术人才和数据工作者相比有两大优势：清楚自己工作成果的用途；技能稀缺，不必和全球的后备劳动力竞争。企业可以一下子解雇一地数千名标注员、换个地方重新招人，却不会这样对待一支机器学习工程师团队（第 7 章）。

全球劳动者运动（第 7 章）：企业用全球生产网络对付劳动者，作者认为劳动者也要用全球的方式行动，并提出三种跨国组织形式：

• 团结行动：别处的劳动者出手支援。1973 年智利政变后，东基尔布赖德的劳斯莱斯工程师拒绝维修智利霍克猎人战机的引擎。作者认为这种行动建立在同情心上，由“全球北方”主导，改变不了生产网络的权力结构。
• 跨国联盟：各地工会和民间组织保持独立，联合与跨国公司谈判。2013 年孟加拉国拉纳广场工厂坍塌、1134 名工人死亡后，洁净成衣运动推动签订了有法律约束力的服装业安全协议，工厂没通过检查就停业整改，合作品牌须在停业期间补偿工人。
• 跨国工会：同一行业各国劳动者组成一个组织，直接指挥选择性罢工，即只让少数处在关键位置的工人停工。20 世纪 90 年代初美国空乘的 CHAOS 策略，就是让少数空乘在登机时离岗，航空公司猜不到哪班会受影响，只能让步。作者承认目前没有这样的跨国工会，地方工会的顾虑和各国法律都是障碍，但认为并非做不到。

同情心和利他主义一旦被调动起来，的确能展现出强大的力量，但它们永远无法从根本上改变整个生产网络中的权力结构。

第 7 章，全球劳动者运动

唯有通过集体组织与行动，劳动者的权益才能得到切实保障。毕竟，如果劳动者自己不挺身而出，别人更不会。

第 7 章，全球劳动者运动

机器为谁服务（第 8 章）：伊恩·M.班克斯（Iain M. Banks）的“文明”系列小说写了一个由超级 AI 承担大部分工作、没有货币和雇佣劳动的富足社会。作者说现实正好相反：机器会画画写诗，人却要像机器一样做单调低薪的活，只为让这些机器成为可能。

我们如何才能创造一个机器服务人类的世界，而不是一个人类成为机器仆人的世界呢？

第 8 章

作者认为，从数据标注员到机器学习工程师，AI 生产网络里的人有一个共同点：没有控制权，决定不了工作怎么组织、条件如何、成果值多少。整个网络是一个连领军企业也看不清全貌的黑箱，单靠哪一方都改变不了，需要一组在不同地点、由不同的人推行、相互加强的措施。作者提出五项，都着眼于劳动者的经济处境，不涉及修改 AI 技术本身（第 8 章）。

措施一：增强劳动者的集体力量（第 8 章）：作者认为劳动者处境差的根本原因是缺乏决策权；即便是薪酬最高的工程师，单凭个人也几乎没有谈判筹码，因为个人总能被替代。

从历史上看，成功的社会运动并非依靠唤醒压迫者的良知，而是通过让被压迫者壮大自身的力量，经由政治斗争来推动变革的实现。

第 8 章，措施一：增强劳动者的集体力量

书中引美国废奴运动领袖弗雷德里克·道格拉斯（Frederick Douglass）的话：“权力从不主动让步。过去不会，将来也不会。不施压，无所得。”作者列出四种做法：

• 加入工会：作者称工会是“劳动者手中最重要的武器”，能把集体力量变成集体谈判；
• 共同决定：劳动者选代表进入董事会，最典型的是德国；
• 两院制：比利时社会学家伊莎贝尔·费雷拉斯（Isabelle Ferreras）提出，投资者和劳动者各设一个有否决权的机构，重大决策须两边都通过；
• 员工持股：如瑞典经济学家鲁道夫·迈德纳（Rudolf Meidner）20 世纪 70 年代提出的计划，通过工资基金把公司所有权逐步转到员工手中，最终未能全面实施；英国工党 2019 年也曾支持类似的员工所有权基金。

措施二：让企业承担责任（第 8 章）：靠消费者和社会运动从外部施压，以企业声誉为筹码。作者参与的公平劳动项目 2018 年在南非和印度启动，按一套公平劳动原则给公司打 0～10 分，结果纳入公开排名；书中说已覆盖 39 个国家、评估了 618 家公司，促成 299 项改进。2023 年项目评估了东非的标注公司 Sama。这家公司网站上写着 “Give Work, Not Aid”，员工却反映工资低于最低标准、被迫无偿加班、只能签短期合同，Sama 得了 0 分。项目组没有马上公开，而是给了几个月整改期。Sama 在两个月内做了 24 项改进，包括让员工收入达到最低生活标准、把合同期从通常一个月延长到一年、取消无偿加班，得分升到 5 分。

公司宁愿听从一群学者的建议，也不愿意听从员工的建议，虽然这听起来很荒谬，但恰恰显示了外部压力的强大作用。

第 8 章，措施二：让企业承担责任

作者还指出，谷歌、微软、亚马逊的供应商行为准则都规定每周工作不超过 60 小时。这个标准很保守，但说明领军企业已经在给供应商定规矩，不必再说服它们有能力这样做，斗争重点应放在提高工资、缩短工时上。作者也提醒，消费者施压如果没有劳动者的集体力量和监管制度撑着，终将昙花一现（第 8 章）。

措施三：政府干预（第 8 章）：作者按地理把监管分成三种：

• 上游监管：针对低薪工作集中的地区，最直接也最难。2014 年作者在马尼拉问一位菲律宾官员怎样提升外包岗位的质量，对方说菲律宾有 1 亿人口，每年有 50 多万毕业生，只要工作做得好，就让他们继续做。菲律宾自 2009 年起多次提出保护外包员工的法案，截至本书写作时都未通过。书中引经济学家琼·罗宾逊（Joan Robinson）的话：“与无人剥削的痛苦相比，被资本家剥削的痛苦微不足道。”作者认为这正是许多“全球南方”政府面临的两难。
• 下游监管：生产可以转移，大市场却不会被放弃，市场所在国的法律因此能影响全球。德国《供应链法》2023 年生效，要求大公司确保整个供应链遵守最低标准；欧盟正在酝酿的尽职调查指令把工资低于当地生活工资、禁止工人加入工会等列为违规，并适用于在欧盟有大量收入的外国企业。作者也列出了批评，比如下限可能变成上限、豁免太多。
• 全网监管：最值得关注的是国际劳工组织，它的公约一经成员国批准就有法律约束力。作者认为可以为 AI 行业劳动者制定全球最低标准。

措施四：探索劳动者合作社模式（第 8 章）：劳动者合作社的成员既是企业的共同所有者，也参与管理、分享利润。书中的例子是印度班加罗尔的非营利组织 Karya，它请印度中南部的人用手机录下自己的方言，做成本地语言的语音数据集卖给科技公司。联合创始人萨菲亚·侯赛因（Safiya Husain）的团队算过：数据工作者的时薪中位数是 10～50 美分，而他们产出的数据价值是工资的 200 多倍，也就是只拿到所创造价值的 0.5%。Karya 的做法是：时薪约 5 美元，远高于印度最低工资；限制每人每周工作时长；参与者对数据集拥有集体所有权，数据集转售时还能继续分钱。

AI训练数据堪称全球利润最丰厚的资产之一，然而，从事这项工作的劳动者所获得的回报微乎其微。

第 8 章，措施四：探索劳动者合作社模式

作者也说了局限：仅凭高薪还不足以把 Karya 算作劳动者合作社，几千名分散的劳动者很难和三位创始人有同等影响力；合作社难以吸引风投，面对投资巨大的数据中心和基础模型实验室几乎没有机会，但在数据标注、艺术创作等领域可行。作者由此提出更根本的问题：在资本主义框架内，任何道德替代方案都会碰到难以克服的问题（第 8 章）。

措施五：拆除剥削机器，构建美好未来（第 8 章）：作者说，不久前奴隶制和农奴制还是常态，今天大多数人有了普选权、双休日和组织权；但这些权利分布不均，瑞士或瑞典的 18 岁青年享有的保障远多于孟加拉国或布隆迪的同龄人。

这种变化不是偶然发生的，也不是掌控剥削机器者的善意恩赐，而是劳动者不断斗争的结果。

第 8 章，措施五：拆除剥削机器，构建美好未来

作者认为，互联网初期人们以为连接会带来平等，结果在知识、资源和能力严重不平等的世界里，连接只是把更多地方和人纳入一个榨取价值的体系（第 8 章）。

若我们致力于构建一个更加公正的未来，那么关键不是增加连接或确保技术平等，而是拆除这台剥削机器，构建新体系。

第 8 章，措施五：拆除剥削机器，构建美好未来

战争里的 AI（结论）：结论从加沙讲起。以色列国防军把 2021 年在加沙的 11 天冲突称为“首次AI战争”。以色列国防军前参谋长阿维夫·科查维（Aviv Kochavi）说，过去在加沙每年能确定 50 个打击目标，现在一天就能确定 100 个。2023 年 11 月，以色列《+972》杂志等披露，以色列国防军用名为“福音”的 AI 系统锁定轰炸目标，范围不仅是军事设施，还包括私人住宅、公共设施和高层住宅楼；后来又披露了“薰衣草”（Lavender）系统，它给加沙每个人打分，生成攻击名单。作者认为，AI 非但没有像宣传的那样让战争更精准、更人道，反而加剧了流血。谷歌和亚马逊为以色列国防军提供 AI 云计算服务，并在以色列投资建设数据中心；训练军事目标识别等计算机视觉系统所需的影像，也要靠数据标注员整理，其中许多来自安妮塔所在的古卢外包中心。作者由此说明，AI 生产网络带有殖民性：今天的海底光缆走的是殖民时代的航线和电报线，价值从外围流向中心。

作者认为这个网络并非一成不变，归根到底是人在做选择，在关键节点组织起来就能带来改变（结论）。

尽管科技公司试图让我们相信未来已成定局，但实际上，未来依然充满变数，等待我们去塑造和争取。

结论

五个核心观点（结论）：

1. 数据标注是一个极不稳定、可随时转移的全球劳动力市场，劳动者必须沿整条供应链建立跨国组织，而且只有劳动者自己领导的组织才能真正捍卫他们的利益。
2. AI 驱动的工作管理和监控将席卷各行各业。它在弱势劳动者身上试验成功后就会推广，亚马逊仓库是未来工作的缩影，作者说“没有人能逃离监控”。
3. AI 把权力集中到少数公司手中，书中引 AI Now 研究所的报告，现有大规模模型几乎全由谷歌、Meta、微软（及其投资的 OpenAI）等大公司开发。但技术剥夺不了劳动者自我组织的能力，随着 AI 管理普及，英美的罢工次数大幅上升。
4. AI 的威胁不在遥远的灭绝风险，而在眼前：虚假宣传、深度伪造、干预选举、以算法形式复制偏见。
5. 如果把 AI 看作剥削机器，人类就是它的原料。

如果用一句话来概括本书的核心观点，那就是：人类是推动AI发展的隐藏力量。

结论

作者回到机械土耳其人：我们就是藏在木箱里的那位棋手。标注数据、写软件、修服务器、创作艺术和文学、维持供应链，人类只有不停地工作，AI 才能存在。有人说标注工作把人当机器，作者说标注员连机器都算不上（结论）。

但实际上，标注员连机器都算不上，他们只不过是维持机器运转的燃料。

结论

他们的故事就是我们的故事（结论）：作者回顾了七位劳动者：默茜、安妮塔、李、埃纳尔、劳拉、亚历克斯、保罗，说“他们的故事就是我们的故事”，因为作为从业者、消费者和公民，每个人都可能成为这台机器剥削的对象。作者认为构建这台机器的是资本主义，决策由少数投资者和管理者做出，后果却由其他人承担。它重现殖民扩张时期的权力格局，不断提高劳动强度、降低工作的专业性，把生产转移到劳动力和资源最便宜的地方，在炒作和泡沫中循环投资和盈利。

作者说 AI 本可以用来自动处理简单工作、协调稀缺资源、推动科学研究，但这不能指望掌权者的善意。全书以 1964 年学生活动家马里奥·萨维奥（Mario Savio）在加州大学伯克利分校的演讲收尾，他号召用身体挡住机器的齿轮（结论）。

我们要告诉拥有和操控AI系统的少数精英：我们一日不得自由，AI机器就一日不得运转。

结论