书页、批注与回声
当劳动消失以后,我们会自由吗?
一个大模型研究员读阿伦特,以及我对 AI 时代的一点不太乐观的猜想
展开本文目录
我在一个很 FOMO、很 intense 的行业工作。
作为一个 AI 大模型研究员,我每天做的事情,大致就是思考怎样训练模型,让它完成一些过去只有 expert 才能完成的任务:能不能写出更好的代码,能不能完成更长的研究任务,能不能操作电脑,能不能自己发现错误、修正错误,能不能进一步帮助我们训练下一个模型。
在硅谷这样一个 automation max 的地方,这些问题听起来都很自然。模型每多自动化一段工作流,就是一次进展;每多替代一种专家能力,就是一条更加陡峭的 capability curve。
但有时候从工作里停下来,我会产生另一个问题:
我们这么做,对于人类的意义到底是什么?
关于这个问题,最常见的答案大概是:OK,AI 可以自动化很多枯燥、重复、不得不做的事情。人们以后不必再为了生计而忙碌,就可以用更多时间做自己真正喜欢的事。
这个愿景当然很好。
问题是,先不说 AI 还有多久才能实现真正的自动化,现在又有多少人知道自己真的热爱什么、真正想干什么呢?
白天我训练模型去替代专家,晚上我开始思考专家被替代以后应该做什么。这多少有一点像先把桥拆掉,再研究人类应该如何过河。不过,这也许正是技术工作者应该偶尔做的事情。
Labor、Work 和 Action
最近我在读汉娜·阿伦特的《人的境况》。这本书出版于 1958 年。阿伦特在书中提出了一个看起来很简单、实际却很有穿透力的区分:人的积极生活,可以被分成 Labor、Work 和 Action。
这三个词都很难直接翻译,因为它们不是我们日常说的“劳动”“工作”和“行动”。
Labor:维持生命的循环
Labor 是为了维持生命和日常运转而必须不断重复的活动。
饭做出来,很快就被吃掉;房间打扫干净,很快又会变脏;身体得到休息,又会重新疲劳;一个组织处理完今天的邮件、工单和报表,明天还会出现新的一批。
Labor 的特点不是辛苦,也不是一定要拿工资,而是:
它没有一个真正完成的时刻。
它属于生产、消耗、维护和再次生产的循环。只要生命和社会还在运行,这些活动就必须继续。
Work:制造一个相对持久的世界
Work 则是制造某种能够留下来的东西。
一栋房子、一本书、一件家具、一座桥、一套软件、一个制度,甚至一个被长期维护的公共项目,都可能属于 Work。
它们当然不会永久存在,但它们不会像一顿饭一样,在一次使用之后立即消失。它们可以被别人使用、继承和修改,也可能比制造者本人活得更久。
所以 Work 的意义不仅是“产出”,而是:
人通过制造相对持久的东西,建立了一个可以共同生活的世界。
Action:与他人共同开始一件新的事情
Action 是三者中最难理解的一个。
它不是点击按钮,不是执行任务,也不只是一般意义上的“采取行动”。在阿伦特那里,Action 发生在人与人之间。
一个人通过言说和行为,在别人面前显现“我是谁”,发起一件不能完全预先计算的新事情,并对它的后果承担责任。
政治参与、公共讨论、组织一场运动、建立一个共同体、说服别人共同开始一个项目,都可能具有 Action 的性质。
它的核心不是效率,而是:
- 人与人之间的复数性;
- 新事物的开始;
- 公共世界中的自由;
- 对结果的承担。
Labor 对应生命过程,Work 对应人造世界,Action 对应人与人共同生活的政治空间。
这三者也不是三种职业。一个程序员的一天里,可能同时存在:
- 处理重复故障和工单的 Labor;
- 建造一个长期软件系统的 Work;
- 与他人共同决定项目方向的 Action。
这篇文章暂时不讨论 thinking,也不讨论 LLM 是否让人的思想本身被外包。那会牵涉理解、判断、意识、作者性和责任,是一个更深也更困难的问题。阿伦特本人也没有把 thinking 放进《人的境况》的主要框架里。
“没有劳动的劳动者社会”
理解了 Labor、Work 和 Action,才能理解阿伦特提出的一个非常有名的担忧:
自动化可能创造一个“没有劳动的劳动者社会”。
这句话听起来有些矛盾。
既然劳动消失了,为什么人还是劳动者?
阿伦特的意思是,现代社会已经把绝大多数人训练成了劳动者。我们从小被教导:
- 学习是为了找到工作;
- 工作是为了获得收入;
- 收入是为了维持生活;
- 休息是为了恢复精力,然后继续工作。
几乎所有职业都被理解为谋生手段,几乎所有时间都围绕着生产和恢复生产来安排。
在这种情况下,如果机器突然把劳动取消了,人并不会自动变成制造者或政治行动者。
他可能只是成为了一个失去劳动的劳动者。
他终于不用工作了,却不知道除了工作以外,自己还能够做什么。
阿伦特真正担心的不是自动化失败,而是自动化成功以后,我们却没有为自由准备好任何内容。
阿伦特所说的“社会”,到底是什么?
阿伦特使用“社会”这个词时,和我们平时说“人类社会”“社会生活”并不完全一样。
可以先用一个很简单的画面来理解。
在古代的理想结构里,家庭主要负责解决:
- 吃饭;
- 生育;
- 财产;
- 劳动;
- 生存。
公共空间则负责讨论:
- 我们应该如何共同生活;
- 哪些事情值得做;
- 城邦应该走向哪里;
- 谁应该为共同决定承担责任。
现代社会出现以后,原本属于家庭内部的事情,被扩大到了整个国家:
- 全国有多少工作岗位;
- 人们收入多少;
- 生产是否增长;
- 人口是否健康;
- 消费是否活跃;
- 福利应该如何分配;
- 社会是否稳定。
这些当然都是重要的问题。但当它们成为公共生活的全部内容时,政治就会越来越像管理。
国家像一个巨大的家庭,政府像这个家庭的管理系统。它负责统计、分配、预测、维护和解决问题。
阿伦特把这种变化称为“社会领域的兴起”。
用今天的话来说:
原本应该讨论“我们共同想要一个怎样的世界”,后来逐渐变成了“怎样把所有人的生活管理得更加高效”。
AI 特别适合后一个问题。
它可以预测、分配、监控、优化、推荐和自动执行。所以 AI 也许不会只是帮助某些个人完成工作,它很可能逐渐成为这个“巨大家庭”的操作系统。
我让 AI 画了一张图
于是,我做了一件略显讽刺、但又很符合这个时代的事:我让 AI 根据阿伦特的概念,画了一张人类文明中 Labor、Work 和 Action 此消彼长的图。
在这张图里,前 LLM 时代大致经历了这些变化:
- 狩猎采集和早期农业:绝大多数人的活动被生存需要支配,Labor 占据中心。
- 文字、城市和建筑出现:人类开始制造能够跨越个人生命的物品,Work 扩大。
- 古典雅典:一小部分公民摆脱必要劳动,进入城邦,通过言说和行动追求卓越与不朽,Action 达到高峰。当然,这种自由建立在妇女、奴隶和非公民承担必要劳动的基础上。
- 印刷术、宗教改革和启蒙运动:书籍、地图、仪器和公共讨论扩展了人造世界,也扩大了某些公共行动的空间。
- 工业革命:机器提高了制作能力,却也把完整的工匠活动拆解成流水线上的重复步骤。很多 Work 开始被重新组织成 Labor。
- 大众传媒、互联网和智能手机:软件、基础设施和 Wikipedia 继续建造数字世界,但信息流和社交媒体也把越来越多公共表达转化成可预测、可统计、可消费的行为。
- LLM 和 Agent 出现以后:AI 开始从生成单个答案,走向执行完整工作流;从帮助人制作,走向自主规划、调用工具、操作环境和减少 human-in-the-loop。
这张图对未来只做了一个判断:
随着自动化程度越来越高,人类的 Work 和 Action 会不断受到挤压。
这里必须解释清楚,图中红色的 Labor 扩张,并不意味着未来所有人每天都要工作更长时间。
恰恰相反,传统意义上的就业劳动可能大幅减少。
红色代表的是 Labor 的生活逻辑:循环、消费、维护、恢复、再次消费。它描述的是人的生活被什么样的活动组织,而不只是人有没有一份工作。
AI 可以让一个人创造过去一个组织才能完成的 Work
我对 LLM 最乐观的理解,是它把大量知识和专业能力压缩成了个人可以调用的基础设施。
一个具有主观能动性的人,可以借助模型:
- 一个人开发过去需要一个团队完成的软件;
- 一个人制作电影、游戏、书籍或者课程;
- 一个人进行研究、设计、数据分析和产品原型开发;
- 一个人组织起过去只有大型机构才能维持的项目。
从这个角度看,LLM 可以极大地放大 homo faber,也就是制造者的能力。
一个人能够创造更多 Work,而不只是完成更多 Labor。
LLM 本身就是一个很好的例子。它凝结了相对少数研究者和工程师多年的工作,却可能替代或者重组大量脑力工作。
机器人也可能重复同样的结构:相对少数人设计出的系统,逐渐承担大量体力劳动。
但 AI 主要降低的是“怎么做”的门槛。它没有自动回答另外几个问题:
- 为什么要做?
- 什么东西值得做?
- 什么东西值得留下?
- 我愿意为哪个项目承担长期责任?
Work 也不等于 output。
一天生成一千条几分钟后就被遗忘的视频,不一定比花五年写出一本仍会被阅读的书创造了更多 Work。
AI 可以制造数量惊人的输出,但只有很小一部分输出,会真正成为人类共同世界的一部分。
过去稀缺的可能是知识、技术和组织资源。未来真正稀缺的东西,可能变成:
- 目的;
- 品味;
- 判断;
- 选择;
- 长期承诺;
- 理想主义。
AI 可以民主化手段,但它不会自动民主化目的。
从劳动中被解放,不等于获得自由
于是问题又回来了。
假设有一天,AI 和机器人真的承担了大部分脑力劳动和体力劳动。人们不再需要为了生计而工作。
接下来会发生什么?
一种直觉是:大家都会去做 Work。人们会写书、做艺术、研究宇宙、制造新事物。
但这种直觉偷偷假设,每个人心里都已经藏着一种真正的热爱,只是过去上班太忙,没有时间把它拿出来。
我越来越不相信这个假设。
兴趣爱好并不总是一件藏在内心深处、等待被发现的东西。它往往是在一个漫长过程中形成的:
接触一件事,尝试它,做得很差,遇到阻力,逐渐掌握一点,得到别人的反馈,进入一个共同体,然后才开始愿意为它投入时间。
人不一定是因为热爱木工才开始做木工。很多时候,是做了一段时间木工以后,才开始热爱木工。
AI 可以降低进入一个领域的门槛,这是好事。
但如果它同时消除了:
- 练习;
- 等待;
- 失败;
- 材料的阻力;
- 与别人共同学习的过程;
人也可能永远停留在尝鲜阶段。
五分钟生成一首歌,十分钟生成一个游戏,半小时生成一部短片。每一种可能性都随时可以被下一种可能性替换。
一个人拥有无限的创作能力,却无法对任何一个具体作品形成长期依恋。
有时间,不等于有方向。
有能力,不等于有目的。
没有 Labor,也不会自动产生 Work,更不会自动产生 Action。
为什么娱乐仍然可能属于 Labor 的循环
娱乐本身当然不等于劳动。
休息、游戏和消遣没有什么道德问题。人也不可能永远处在创造和政治行动之中。
问题在于,现代娱乐越来越呈现出与 Labor 相似的时间结构:
生产出来,立刻被消费,然后迅速被新的产品取代。
短视频尤其适合说明这个过程:
刺激,满足,厌倦,下滑;
再刺激,再满足,再厌倦,再下滑。
这个过程没有真正完成的时刻。
你不会刷完短视频,就像你不会永远吃完最后一顿饭。消费之后,需求很快重新出现。
未来的人即使不再为了生存劳动,也可能继续把大量时间用在:
- 消费无限生成的娱乐;
- 维护身体、外貌和情绪;
- 优化个人体验;
- 经营数字身份;
- 追逐游戏等级和社交指标;
- 接受越来越精确的个性化服务。
人不再为了生存而忙碌,却开始为了不断优化自己的体验而忙碌。
在这种状态下,作为职业的 Labor 可能减少,但 Labor 的生活逻辑反而扩张了。
我预测的不是未来所有人的工作时间越来越长,而是:
生产—消费—维护—再次消费的循环,会占据更多人的生命。
未来可能不是一个平均值,而是一场分化
图表最容易造成的误解,是把“人类”画成了一个平均人。
但 AI 时代更可能发生的,是严重的分化。
第一类人:AI 增强的制造者
一小撮具有强烈主观能动性、长期主义和理想主义的人,会与 AI 一起完成全世界越来越大比例的 Work。
他们设定目的,选择问题,组织资源,并利用模型和机器人,完成过去需要成百上千人才能完成的制作过程。
他们可能用一个人的规模,做出过去一个组织才能做出的东西。
第二类人:没有劳动的 animal laborans
更多人可能不再需要承担传统劳动,却也没有进入 Work 或 Action。
他们成为被自动化系统供养、照料、娱乐和管理的用户。
生活可能很舒适,物质可能很丰富,选择看起来也很多。但这些选择主要发生在系统已经准备好的菜单里。
他们不一定被压迫,也不一定感到痛苦。他们只是越来越少需要发起什么、建造什么,或者与别人共同决定什么。
最危险的未来不一定长得像《黑客帝国》。
它也可能长得像一个极其好用、服务无微不至、但没有真正退出按钮的生活 App。
第三种变化:Action 退到幕后
AI 本身不会完成阿伦特意义上的 Action。
模型可以发邮件、修改代码、执行交易、安排资源,但这些是 operation,不是政治行动。
AI 更可能做的是扩大行政、流程和管理,让越来越多原本需要公开争论的事情,看起来只是一个可以优化的技术问题。
于是,政治越来越社会化、系统化。
人类这个大家庭的日常管理逐渐由 AI 接管,而真正的目标设定、制度设计和资源控制,则退到更少数人的幕后。
Action 不是被 AI 取代了。
它是被挤出了大多数人的生活,或者被集中在少数仍然有权决定系统目标的人手里。
最终可能出现一个非常奇怪的世界:
社会生产了大量 Work,但只有很少的人参与创造它;
大多数人不再承担 Labor,却仍然生活在 Labor 的循环里;
AI 管理几乎所有人的日常生活,而 Action 只发生在系统设计者、所有者和少数政治参与者之间。
我们能做什么?
我并不认为解决方案是放慢所有 AI 研究,更不认为人类应该因为害怕未来,而保留大量没有必要的苦役。
事实上,AI 提供了一个前所未有的历史机会。
古典雅典的自由,建立在奴隶替公民承担必要劳动的基础上。
AI 第一次让我们有可能想象:
人可以从必要性中被解放,而不必把必要性转嫁给另一群被排除的人。
这本来可能是一个非常好的未来。
但把人从 Labor 中解放出来,不能只等于取消他们的工作。我们还需要建设把自由时间转化成 Work 和 Action 的能力与制度。
第一,物质自由必须被广泛分配
如果 AI 创造的生产力只集中在极少数公司和资本所有者手里,大多数人不会得到自由,只会失去议价能力。
基本生活保障是进入 Work 和 Action 的必要条件,虽然它本身还不充分。
第二,教育需要培养目的形成和长期项目能力
未来最稀缺的能力,可能不是记住知识,而是:
- 自己选择一个值得做的问题;
- 忍受暂时没有反馈;
- 在失败以后继续;
- 和其他人一起把一件事坚持下去。
兴趣不是从菜单里选择出来的。它需要练习、共同体和真实世界的阻力。
第三,我们需要定义更多由 AI 驱动的真正 Work
这件事很难。
它不仅涉及 AI 和单个人如何 interaction,也涉及 AI 与人群、组织和公共项目之间的关系。
好的 AI 产品不应该只让人更快地产出更多东西。它应该帮助人:
- 建立长期项目;
- 保留对成果的理解和所有权;
- 制作能够被别人使用、维护和继承的东西;
- 进入真实的合作关系;
- 从一次性输出走向一个相对持久的世界。
我们不应该只问:
AI 能替人完成多少任务?
我们还应该问:
AI 能让多少原本没有条件成为制造者的人,开始真正制造东西?
第四,必须保留 Action 的空间
涉及共同生活目标的决定,不能全部被降格为技术优化。
人需要拥有:
- 质疑系统的机会;
- 拒绝自动决策的权利;
- 重新定义目标的能力;
- 参与公共讨论的空间;
- 找到具体责任人的可能性。
AI 可以提供信息、模拟方案和执行流程,但最终的政治责任,必须能够回到具体的人。
一个更加正向的循环应该是:
AI 减少必要 Labor
→ 人进入长期项目和共同体
→ 在制作中形成兴趣、能力和责任
→ 参与共同世界的建设和决定
→ 获得更强的主观能动性
→ 再利用 AI 创造更多 Work 和 Action。
否则,我们得到的循环会是:
AI 减少必要 Labor
→ 系统提供更多娱乐和消费
→ 人失去目的形成能力
→ 更依赖系统提供选择
→ 更少参与 Work 和 Action
→ 社会进一步把人的生活交给 AI 管理。
我们可能没有想象中那么多时间
还有一个无法忽略的维度,就是速度。
人类文明的每一条技术曲线当然不一定都是严格的指数增长。但站在前沿 AI 研究内部,模型能力、计算效率、Agent、机器人和研发自动化,确实呈现出相互加速的感觉。
这也是 AI 研究院如此 FOMO 的原因。
任何一个实验室停下来,都会担心另一个实验室先把下一层自动化做出来。任何一个研究者慢一点,都会感觉昨天还在研究的问题,今天已经变成了产品功能。
因此,如果人类中的有志之士想做点什么,也必须要快。
但“快”不能只意味着:
- 更快地训练模型;
- 更快地部署 Agent;
- 更快地自动化职业;
- 更快地减少 human-in-the-loop。
我们还需要同时加快另一条曲线:
培养人的主观能动性,建设新的公共制度,设计真正促进 Work 的人机关系,并在越来越多的人变成没有劳动的 animal laborans 之前,给自由找到用途。
能力竞赛已经开始了。
人类能动性的竞赛也应该开始。
最后
这篇文章有一个很大的前提:在未来几十年里,地球上的主要政治主体和统治者,仍然是碳基生物。
硅谷当然还有其他故事线。有人认为我们当下最紧迫的问题是 AI safety,是对齐,是防止能力失控,是确保未来更强的 AI 不会伤害人类。
每一条故事线都有自己的一套逻辑。我并不打算在这里否定它们。
我只是觉得,能有越来越多的人在乎人类,通常不会是一件坏事。
未来也许会更快进入我所预言的负向循环;也许我们能够建立一个更加正向的循环;也许人类仍然会像过去一样,在一次次繁荣和毁灭之间徘徊,最终回归寻常,再进入下一个周期。
我没有答案。
阿伦特也没有试图给出一个人的答案。这些问题最终属于政治,需要许多人共同决定。
她给出的任务只是:
思考我们正在做什么。
对我来说,有时候从繁忙的工作里停下来,思考一下这些问题,本身就很有趣。
而且可能也很必要。
因为当我们训练模型去替代专家时,我们或许也应该同时训练自己和我们的社会,去回答另一个问题:
当我们终于获得自由以后,自由究竟是为了什么?
阅读说明
本文是带着 AI 研究经验对阿伦特的一次个人阅读,并不是对《人的境况》的完整解释。关于 AI、短视频、教育和未来分化的判断,均是作者从这本书出发所作的当代延伸。
《The Human Condition》书目信息 ↗ · Stanford Encyclopedia of Philosophy ↗