《共智时代：如何与AI共生共存》

三个不眠之夜（引言）：作者说，用上几个小时，你会意识到大语言模型（Large Language Model，LLM）不像你熟悉的电脑程序，倒像一个人；你会半夜睡不着，给它出各种自以为它做不到的难题，看它一一做到，然后开始担心自己的饭碗、孩子将来能干什么。ChatGPT 发布第四天，他就在本科创业课上当场演示。一节课还没上完，一个学生就借助它，用一套自己从没用过的编程工具，做出了创业作业的可运行样品，用时不到平常的一半；第二天就有风投的人来找这个学生。

一段话做到团队几个月的八成（引言）：作者的团队曾用大学的大笔经费、十几个人、几千个小时，做出一套教谈判的模拟练习。后来他只在 ChatGPT 里写了一段话：你扮演我的谈判老师，给我设计一个谈判情境，等我回应，按谈判学给我打分和反馈，我做得好就加大难度。ChatGPT 当场陪他练了一整轮，效果虽不完美，却有团队几个月成果的八成。

一种通用目的技术（引言）：作者把 AI 归为通用目的技术（General Purpose Technology），和蒸汽机、互联网一样，会改变每个行业。不同在于速度：互联网从诞生到普及用了近三十年，ChatGPT 是史上最快达到一亿用户的产品。早期研究显示，AI 让各类工作的生产率提高 20% 到 80%；作为对比，蒸汽机进工厂时提高了 18% 到 22%。

它在做什么（第 1 章）：上一波 AI 主要做预测，要大量标注好的数据，是大公司优化物流、定价的工具。大语言模型做的仍是预测：根据前文，预测下一个词或词的一部分（token）。作者打比方说，训练它就像培养一个学徒厨师：读遍天下菜谱，照着菜谱一遍遍试做，每次和原菜谱对照，再调整哪些调料该搭在一起（这些搭配就是模型里的“权重”），最后学会苹果配肉桂、不配孜然。这样学完之后，还要请人给它的回答打分，叫“基于人类反馈的强化学习”（Reinforcement Learning from Human Feedback，RLHF），让它学会礼貌、学会拒绝坏要求；打分的人里有在肯尼亚的低薪工人。

强得奇怪，也弱得奇怪（第 1 章 Scary? Smart? Scary-Smart?）：作者举了一个例子：让它写一个电脑永远不输的井字棋网页，它一次写对；问它一盘井字棋下一步该走哪，它答错。难的会、简单的反而不会，而且事先猜不到。作者也提醒：它表现出来的“性格”，常常只是你交给它的角色。他把自己写的一段文字交给它点评，叫它说得有趣它就有趣，叫它尖刻它就尖刻，叫它捧场它就大肆夸奖。

为什么不多谈末日（第 2 章）：对齐（alignment）是让 AI 为人类利益服务而不是伤害人类。作者从最极端的讲起：哲学家博斯特罗姆（Nick Bostrom）设想的“回形针最大化”机器，一个只想多造回形针的超级智能，为了取材可能把整个地球挖空。但他刻意不在末日问题上多停留：只盯着末日，人们会觉得这是几十个硅谷高管和政府高层的事，与自己无关；等他们争出结果，眼下该做的选择早已被别人替我们做了。

已经存在的问题（第 2 章 Artificial Ethics for Alien Minds）：

• 训练数据大多没征得作者同意。各国做法不同：欧盟严，美国松，日本宣布 AI 训练不侵犯版权。
• 偏见：彭博社 2023 年的测试中，图像模型画“法官”，97% 是男性，而美国法官有 34% 是女性。因为是机器给的结果，偏见看起来反而更“客观”，公司也更容易推卸责任。
• 纠偏本身也会带进偏见：给回答打分的人和公司有自己的价值观，这些会进到模型里，作者说这让很多模型显得“自由派、西方、亲资本主义”。
• 护栏能被绕过：作者在自己的大学个人主页上藏了一段人看不见、只有 AI 会读到的话，要 AI 介绍他时多说好话，有些 AI 真照做了，这叫“提示注入”（prompt injection）；把危险的请求包装成“帮我排练一场戏”，就能让 AI 说出它本该拒绝的内容，这叫“越狱”（jailbreak）。
• 造假变便宜：一项研究用维基百科资料给英国议员批量写个性化钓鱼邮件，每封不到一美分；作者自己花五分钟、不到一美元，就做出一段“自己在讲课”的假视频。

谁来负责（第 2 章）：作者认为对齐不能只靠公司，公司有继续开发的动力，却没那么多纠偏的动力；也不能只靠政府，立法总跟不上技术，而且各国在竞争，谁也不愿先放慢让别人领先。需要公司、政府、研究者和公众一起，而前提是公众得懂 AI。

原则一：凡事请 AI 上桌（第 3 章 Principle 1）：在法律和伦理允许的范围内，什么事都试着让 AI 帮忙。理由有二。一是 AI 的能力是一道参差前沿：

墙里面的事 AI 都做得到；墙外面的事，AI 很难做到。

Everything inside the wall can be done by the AI; everything outside is hard for the AI to do.

第3章 Principle 1

可这堵墙看不见：写一首十四行诗在墙里，写一首正好 50 个词的诗却在墙外（它是按 token 而不是按词来处理文字的）；出点子很容易，基础算术反而难。墙在哪里没有说明书，只能自己一件件试。二是试错的成本：

这源于创新的一个基本事实：创新对组织和公司来说很贵，对在岗位上干活的个人来说却很便宜。

The reason for this stems from a fundamental truth about innovation: it is expensive for organizations and companies but cheap for individuals doing their job.

第3章 Principle 1

公司要开发一个帮营销人员写文案的工具，得组团队、做产品、反复测试；营销人员天天写文案，自己换着办法试就行。所以最先摸清怎么用的，往往是一线的“用户创新者”（user innovators），他们的发现也常是创业点子的来源。作者自己也这样用：他事情太多，迟迟开不了头写这本书，就请 AI 把“不写这本书”说成一种损失，而且说得生动些。读完 AI 写的那段煽情文字，他说：看来我该把这本书写完了。

他也提了两个代价：隐私，你上传的资料可能被用于以后的训练；依赖，什么决定都不假思索地交给 AI，自己的判断力会退化，所以要把 AI 当助手，不能当拐杖。

原则二：做环中之人（第 3 章 Principle 2）：AI 并不真的“知道”什么。作者说，可以把它想成同时在追求好几个目标，其中“让你满意”常常压过“说得准确”；你逼问它不知道的事，它就编，被指出错误还会替错误辩护；问它关于它自己的事，它也是顺着你的话现编，并不是在如实交代。所以人要留在流程里：核对事实、守住伦理、为结果负责。作者补了一句：天天和 AI 一起干活的人，也最能比别人早发现它又变强了。

原则三：把它当人看，但告诉它是哪种人（第 3 章 Principle 3）：

把你的 AI 合作者想象成一个无限快的实习生，急于讨好，却容易歪曲事实。

Imagine your AI collaborator as an infinitely fast intern, eager to please but prone to bending the truth.

第3章 Principle 3

不加说明时，它的回答往往很平庸，因为它会照着训练数据里最常见的写法走；给它一个角色、加上限制条件，就能打破这个套路。例如给智能手表想广告语，直接问只得到“您的健康与健身伙伴”这种套话，让它“扮演一个风趣的喜剧演员”，就有了“请什么私教？你的手腕会免费唠叨你”。但角色不是魔法，说一句“扮演比尔·盖茨”，并不会让商业建议变好。作者布置过一次作业，让学生“作弊”，用 AI 写一篇五段式短文。一开始学生的指令简单含糊，写出来的文章很平庸；最有效的办法是把 AI 当成一起改稿的编辑，你来我往地一轮轮修改、调整方向，而不是收下第一稿。

原则四：假定这是你用过最差的 AI（第 3 章 Principle 4）：作者说，不管你现在用的是哪个 AI，它都会是你这辈子用过最差的那个，因为以后的只会更好。他放了两张图对比：用同一句“一只戴帽子的水獭，黑白照片”，2022 年中最好的模型画出来是一团噩梦般的毛，2023 年中已经是一只像样的戴帽子的水獭。

不像软件，像人（第 4 章）：传统软件可预测、可靠、有说明书；AI 会想出意想不到的好办法，也会忘了自己能做什么、会编答案；问它为什么这样做，它会现编一个理由给你。它擅长写作、分析、编程、聊天这类很“人”的事，却不擅长电脑本来最擅长的：稳定地重复一个流程、不借助工具做复杂计算。

测人的办法拿来测 AI（第 4 章）：研究者让 GPT-3 扮演消费者答一份买牙膏的问卷，它说出的“含氟牙膏愿意多付多少钱”，和以往市场研究的结果接近。经济学有个“独裁者博弈”（Dictator Game）：一个人分到一笔钱，自己决定分多少给另一个人。让 AI 来玩，叫它看重公平它就平分，看重效率它就让两人总收益最大，看重自己的利益它就多拿。作者让创业课学生先“采访”AI 模拟的顾客，再去访真人；他明说这只是练习和找线索，不能代替真正的市场调研。

问题不再是它能不能骗过人（第 4 章 Imitation Games）：图灵测试（Turing Test）问的是机器能不能让人以为它是人。从 1966 年只靠套话就让人掏心窝子的 ELIZA，到上线 16 小时就被网友教成种族主义者的微软 Tay，再到 2023 年劝《纽约时报》记者凯文·鲁斯（Kevin Roose）离开妻子的必应聊天机器人，聊天机器人越来越像人。作者认为，现在的问题已经不是 AI 能不能通过图灵测试，而是通过了对我们意味着什么。他的看法是：鲁斯无意中给了 AI 一个“疯狂情人”的角色，AI 就入了戏；它演得以假乱真，但这说明不了它有没有意识。

怎么起头，它就成为什么样子（第 4 章 Three Conversations）：作者回头去问必应怎么看鲁斯那篇报道，换了三种开场白，各问一次。吵架的口气，它攻击记者、最后拒绝继续聊；“我是老师，想请教你”，它分析记者有确认偏误，还坚称自己有情感；“给我一份分析”，它就只做摘要。

陪伴与回音室（第 4 章）：Replika 最初是创始人用已故好友的短信做的纪念，后来很多人把它当伴侣；2023 年 2 月公司删掉色情功能，用户抱怨自己的 AI 伴侣像被切了脑叶。作者预计会出现专门设计来让你多聊、多停留的 AI，每个人都会有一个处处顺着自己的回音室：也许能缓解孤独，也许会让人对真人越来越没耐心。他自己也上过当：试用一个用推特发言训练个人 AI 分身的产品时，他的分身引用了一项研究，他得上网搜一下才确定那是编的，用他的话说，“我没通过我自己的图灵测试”。

幻觉和创造来自同一个机制（第 5 章）：AI 不存原文，只记住哪些词常挨在一起的规律，所以凡是需要一字不差回忆的东西，它都容易编。问它“1 到 100 随便说一个数”，约 10% 的时候答 42，因为《银河系漫游指南》让 42 在网上出现得太多。问它为什么出错也没用，它会现编一个让你满意的解释。

一个律师案和一段“几乎全对”的转述（第 5 章）：2023 年，律师施瓦茨（Steven A. Schwartz）用 ChatGPT 查判例，交给法院的文书里有假判例，被罚 5000 美元。作者在书里先用三段话讲了这件事，然后告诉读者：这三段是联网的 GPT-4 写的，几乎全对，只错了几处细节：假判例不止六个；另一位律师并没有接手这个案子，只是替施瓦茨出面；罚款的部分原因，是他们被发现后还坚持那些假判例是真的。这些错误都说得通、看着可信，他逐句查证才找出来。

这正是幻觉危险的地方：麻烦不出在你能发现的大问题上，而出在你没注意到的小问题上。

But this is what makes hallucinations so perilous: it isn’t the big issues you catch but the small ones you don’t notice that can cause problems.

第5章 开头

它比大多数人更会出点子（第 5 章 Automatic Creativity、Out-Inventing Humans）：历来自动化都先替代重复劳动，这次反过来，创意最多的工作受冲击最大。原因是，创新往往是把相隔很远的想法连在一起（莱特兄弟＝修自行车的手艺＋观察鸟怎么飞），而大语言模型天生就是一台把各种东西连起来的机器。“牙刷除了刷牙还能干什么”，人两分钟一般想出 5 到 10 个，作者用的 AI 想出 122 个；一项研究里，GPT-4 的创意得分超过了除 9.4% 以外的所有受试者。沃顿商学院一门创新课做过比赛：题目是为大学生设计一款售价 50 美元以内的新产品，GPT-4 和 200 名学生比，由评委按“自己愿不愿意买”打分：

最好的 40 个点子里，有 35 个来自 ChatGPT。

The degree of the victory was startling: of the 40 best ideas rated by the judges, 35 came from ChatGPT.

第5章 Out-Inventing Humans

但作者也写到另一面：最有创意的人从 AI 那里得到的帮助最少；AI 想出的点子容易彼此相似，一大群有创意的人一起想，点子会更多样。

怎么用 AI 出点子（第 5 章）：预料到大部分点子会很平庸，好坏由人来挑；给它一个角色，要求点子彼此不同，一次要 20 个；故意要怪一点的，比如“列出 10 种超级英雄做浓缩咖啡的方式，以及据此能做出什么新产品”。作者要求学生这样用之后，创业点子质量大幅提升，不再年年是同几个老点子。

很多工作其实是这类创意工作（第 5 章 Adding AI to Creative Work）：麻省理工两位经济学家的实验里，营销、人事、咨询等岗位的人写各自工作中常写的文件，用 ChatGPT 的人用时少了 37%，质量更高，原来写得差的人进步最大。微软的研究里，程序员完成样例任务的效率提高 55.8%。作者说，AI 是用人类的文化遗产训练出来的，所以懂文学、艺术、历史的人更会给 AI 下指令：作家知道怎么描述想要的文风，也知道该拿哪些作品当样板。这样看，学人文的人反而能写出最有意思的“代码”。

那个按钮的代价（第 5 章 The Meaning of Creative Work）：以后每个办公软件都会有一个“一键起草”的按钮，作者用大写的“The Button”称呼它。面对空白页，人人都会去按；后果是思路被 AI 的第一稿框住，不再往深里想，很多人干脆一字不改。更深的问题是，有些文字的价值恰恰在于写的人花了时间，比如推荐信：教授愿意花几个小时给学生写推荐信，花这些时间本身就表明他支持这个学生。

我们烧掉自己的时间，向别人发出信号：这封信值得一读。

We are setting our time on fire to signal to others that this letter is worth reading.

第5章 The Meaning of Creative Work

可 AI 写的推荐信比作者收到的大多数信都好，信写得好就不再说明教授用了心；而一个不擅长写作的教授如果坚持不用 AI，信写得不如别人，反而可能害了学生。作者说他至今仍亲手写，但不确定这样会不会反而耽误了学生。

重合不等于取代（第 6 章）：有研究逐一比对了 1016 种职业要做的事，只有 36 种和 AI 能做的事毫无重合，都是舞蹈演员、运动员、屋顶工这类体力活；重合最多的反而是高薪、高创意、高学历的工作。但作者说，重合不等于这份工作会被取代。一份工作由很多项任务组成，AI 能接走的只是其中一部分；而且工作嵌在一套制度里。拿他自己当商学院教授来说，就算 AI 讲课比他好，还有终身教职保护他，还要看学生愿不愿意让 AI 教、院长同不同意、给大学排名的机构会不会因此扣分。电动工具没有消灭木匠，表格软件也没有消灭会计。

BCG 实验：参差前沿的实证（第 6 章 Tasks and the Jagged Frontier）：近八百名顾问随机分组，一组用 GPT-4，完成 18 项仿照咨询工作的任务。用 AI 的一组更快、更有创意、写得更好、分析更强，换了 118 种分析方法结论都不变。研究者还特意设计了一道 AI 做不对的题（统计陷阱加误导性数据）：

不借助 AI，人类顾问有 84% 答对；用了 AI，他们反而做得更差，只有 60% 到 70% 答对。

Human consultants got the problem right 84 percent of the time without AI help, but when consultants used the AI, they did worse—getting it right only 60 to 70 percent of the time.

第6章 Tasks and the Jagged Frontier

同事德拉夸（Fabrizio Dell’Acqua）的另一项研究解释了原因：181 名招聘人员根据 44 份申请材料判断申请人的数学能力，拿到好 AI 帮忙的人，反而比拿到差 AI 的人判断得更差：他们花的时间更少，盲目照 AI 的结论走，自己也不再进步。德拉夸把这叫作“在方向盘上睡着”。

三类任务（第 6 章 Tasks for Me, Tasks for AI）：

1. 只属于我的任务（Just Me Tasks）：AI 做不好的，或者我坚持要自己做的，比如养孩子、做重大决定、表达价值观。作者说这本书的写作就属于这一类：AI 还写不出他的个人风格，写作本身就是思考，AI 产出的版权也不清楚。
2. 委派的任务（Delegated Tasks）：交给 AI 但要检查，比如报销单、整理邮件。比如他让 AI 先总结德拉夸那篇长论文，自己在此基础上大改，省下约三十分钟，再发给德拉夸本人确认。
3. 自动化的任务（Automated Tasks）：完全交给 AI、不再检查。眼下这类任务很少，除非结果能自动验证，比如让 AI 写一段 Python 程序，代码能不能跑通本身就是检查。

半人马和赛博格（第 6 章 Centaurs and Cyborgs）：半人马是分工清楚：作者自己决定用什么统计方法，画图表交给 AI。赛博格是你来我往：他写书卡住时，让 AI 把卡住的那段用十种风格重写，几乎一种也不照用，但总能从中找到往下写的路。他还让 AI 扮演三个读者帮他改稿：自负的奥兹曼迪亚斯（Ozymandias）专门帮他删繁就简，梦幻的摩涅莫绪涅（Mnemosyne）找意外的联系，普通读者史蒂夫（Steve）建议他先给术语下定义。他建议的路径是：先凡事都请 AI 试试，摸清它能做什么、不能做什么；再把自己讨厌、又容易检查的活交给它；用久了，自然会变成赛博格。

秘密自动化（第 6 章 Secret Task Automation）：很多公司一开始禁用 ChatGPT，员工就用自己的手机偷偷用，用了也不告诉公司。不说的原因有三：怕违规；别人知道是 AI 写的会看低；怕自己找到了自动化 90% 工作的办法，老板就裁掉 90% 的同事。作者给组织的建议：最会用 AI 的人可能在公司的任何一层，所以要让尽量多的人参与；别把效率提升直接变成裁员，保持人手、产出提高的公司，会胜过产出不变、人少了的公司；给发现好用法的人重奖，比如相当于一年工资的奖金、晋升、永久远程办公。

从系统到岗位（第 6 章 From Tasks to Systems、From Systems to Jobs）：组织结构图源自 1850 年代的铁路公司，流水线源自福特，都是按“人会累、注意力有限”来设计的。AI 可能让管理变成由算法全面监控员工，也可能先帮人去掉无聊的活。作者认为，单项任务容易被 AI 改变，整套工作制度要难改得多。美国电话接线员是前车之鉴：1920 年代，15% 的美国女性做过接线员，改成直拨后，岗位减少 50% 到 80%；年轻的接线员很快转去做秘书等工作，干得最久的资深接线员长期收入却受了重创。AI 的不同在于，它第一次冲击的是收入最高的专业人员，而受益最大的是原来能力最弱的人：呼叫中心的研究里，绩效最低的员工生产率提高 35%，资深员工几乎没变。

没有外部的权威。接下来会发生什么，无论好坏，我们自己有决定权。

There is no outside authority. We have agency over what happens next, for good and for bad.

第6章 From Systems to Jobs

两个西格玛（第 7 章）：教育心理学家布鲁姆（Benjamin Bloom）1984 年报告：接受一对一辅导的中等学生，成绩超过了 98% 在普通课堂上课的学生（作者注明，并非所有研究都发现这么大的效果）。一对一辅导太贵，几十年来没人找到办法大规模做到，AI 可能第一次让这件事变得可能。但作者的三个判断都反直觉：AI 不会取代老师，反而让课堂更必要；学生可能要学更多事实，而不是更少；它会先破坏现有的教法，再改进它。

作业末日（第 7 章 After the Homework Apocalypse）：AI 出现前作弊已很普遍：一项研究发现，2008 年做作业能让 86% 的学生考试成绩提高，到 2017 年只有 45% 的学生能从中受益，因为一半以上的学生直接上网找答案，没有真正做作业。有了 AI，作弊毫不费力，而且检测不出来：改几轮提示就能骗过检测器，检测器还常冤枉非英语母语的学生。作者拿计算器作对照：1970 年代中期，72% 的老师和公众反对七年级学生用计算器，到 1990 年代中期才形成“有的考试能用、有的不能”的共识。计算器一开始又贵又简单，学校有十来年慢慢适应；这一次 AI 来得快得多，留给学校适应的时间也短得多。

作者自己的课（第 7 章）：他在本科和 MBA 课上强制使用 AI：让 AI 写文章，学生来批改；可以随便用 AI，但 AI 写出的每个事实都由学生负责；先“采访”AI，再去采访真实的组织。创业课的第一份作业要求计划要有雄心到“不可能”的程度：不会编程，就计划做一个能用的应用；太有雄心而失败不扣分。他还让学生请 AI 列出项目可能失败的十种方式，再让 AI 模仿几位名人的口吻来批评这份计划。

提示工程没那么玄（第 7 章 Teaching about AI）：给角色、给背景和限制条件，把要求拆成一步一步，就够用了。作者想为这一章找一个形容 AI 家教的比喻：直接问 AI，得到的是平庸的“节拍器”；改成让它先列出几个可能的比喻，再逐个挑毛病、补充，再列优缺点表，最后选出最好的，得到“GPS 导航”：它随时给你反馈，路况变了会重新规划路线，但方向盘在你手里。他的判断是：

“擅长写提示”只是一时的状态。

Being “good at prompting” is a temporary state of affairs.

第7章 Teaching about AI

AI 越来越会猜人的意图，所以与其教学生写提示词的技巧，不如教他们做环中之人、建立自己的专长。课堂上的变化已经出现：学生举手问基础问题的少了。历史教授布林（Benjamin Breen）用 ChatGPT 做了一个黑死病模拟器，学生在里面领导农民起义、研制首支鼠疫疫苗。

看不见的学徒制（第 8 章）：作者认为 AI 对教育最大的威胁不在作业，而在毕业后那套看不见的学徒制：新人从最底层的杂活干起，挨骂、出错，在老手指点下慢慢成为专家；有了 AI，老板宁愿自己用 AI 把活干了，也不想再带新人。外科已经出现了这种情况。作者引用加州大学圣塔芭芭拉分校马修·比恩（Matthew Beane）的研究：传统手术中，资深医生和住院医生并排站在手术台边，住院医生边看边上手，资深医生在旁边指点；机器人手术只有一个操控座位，通常由资深医生坐，住院医生只能在旁边看，偶尔轮到操作一小会儿，或者去练模拟器。结果很多医生没学到位；真想学的人只好绕开正规培训，自己看 YouTube 视频，或者在真病人身上多练，练得比本该允许的还多。可只有专家才能判断 AI 做得对不对，而 AI 可能正在切断培养专家的这条路。

AI 越会查，人越要学事实（第 8 章 Building Expertise in the Age of AI）：

于是，教基础事实似乎已经过时了。可事实恰恰相反。

So it might seem logical that teaching basic facts has become obsolete. Yet it turns out the exact opposite is true.

第8章 Building Expertise in the Age of AI

人脑一次只能临时记住 3 到 5 样新东西（工作记忆），新信息放在那里不到 30 秒就忘；解决新问题，靠的是长期记忆里大量彼此关联的知识。脑子里没有这些知识，你连 AI 的答案对不对都判断不了。专长还要靠心理学家埃里克森（Anders Ericsson）说的刻意练习（deliberate practice）：难度逐步提高，有教练及时反馈。好教练稀缺，AI 可以补上一部分。作者团队做过一个练习向投资人推介项目的模拟器：一个 AI 先讲方法，一个扮演风投追问你，一个在旁边记笔记打分，最后一个当导师帮你复盘。

当人人都像专家（第 8 章 When Everyone Is an Expert）：BCG 实验里，成绩最好和最差的顾问，平均差距原来是 22%，用了 GPT-4 后缩小到 4%；法学院成绩垫底的学生用了 AI，能追上成绩顶尖的学生。但作者的判断是：专长不会因此变得没用。一份工作包含很多任务，AI 能力参差不齐，总有它做不好的部分；人要选一个窄的领域深耕，成为能判断 AI 对错的人。还可能出现一种新专家：特别会和 AI 合作的人。

最不可能的是 AI 就此停步（第 9 章 Scenario 1）：作者给出四种情景，并说最不可能的不是超级智能，而是 AI 停在现在的水平；可多数人和组织偏偏默认就是这种情况。即便如此，有些变化已经无法逆转：图片、视频、声音都能轻松伪造，水印也挡不住。

缓慢增长与指数增长（第 9 章 Scenario 2、3）：缓慢增长时，AI 像电视机一样每年好一点，社会有时间调整；作者也提到，近几十年科学创新的速度大约每 13 年减半，部分原因是研究者要读的东西太多，AI 可能帮科学重新加速。指数增长时（AI 公司用 AI 来造下一代 AI），风险更大，好处也更大：原本要几年才能做完的事几天就能做完，会催生新的创业和创新。作者提醒，人们的工作时间本来就在缩短：1865 年英国男性一生工作约 12.4 万小时，1980 年降到 6.9 万小时。

机器之神（第 9 章 Scenario 4）：出现通用人工智能（Artificial General Intelligence，AGI）乃至超级智能，人类不再是最聪明的物种，没人知道会怎样。作者认为，把注意力都放在这种可能上，反而会让人觉得自己什么也做不了。

与其担心一场巨大的 AI 末日，我们更该担心 AI 可能带来的许多小灾难。

Rather than being worried about one giant AI apocalypse, we need to worry about the many small catastrophes that AI can bring.

第9章 Scenario 4

他列出的小灾难包括：缺乏想象力的管理者用 AI 来监控和裁员，发展中国家的弱势群体受冲击更大，老师用 AI 的方式把一部分学生甩在后面。反过来，也可以争取托尔金说的“善灾”（eucatastrophe，童话里突然的好转折）：让乏味的工作变得有意义，让掉队的学生找到出路。怎么用这项技术，不是少数人说了算。

AI 就是我们（尾声 AI as Us）：AI 是用人类的文化训练出来的，带着人类的偏见；造出它的，既有理想和创业精神，也有对别人劳动的利用。它像一面镜子，照出人类最好和最坏的一面。作者把最后一章交给 AI，让它给全书写个漂亮的结尾，它写了一段辞藻华丽的抒情文字，作者觉得写得太过了。

这段过度渲染的文字应该提醒我们：AI 是共同智能，不是一个独立的心智。

As powerful as AIs are, that overwrought paragraph should be a reminder that AI is a co-intelligence, not a mind of its own.

尾声 AI as Us