本文来自微信公众号： 不懂经 ，作者：不懂经也叔的Rust
1994年，凯文·凯利出版了一本后来被中文互联网反复引用的书，叫《失控》。
这个书名太好了。好到很多人第一次看到它时，会自然以为它讲的是灾难：机器反叛，系统挣脱缰绳，人类创造的东西转身吞噬主人。但凯文·凯利当年说的"失控"，完全不是这个意思。
他真正想说的是：未来最强大的系统，不会再像工业时代的机器那样，由一个中心、一个按钮、一个总控制室来指挥。它们会越来越像生命，像蜂群，像生态，像市场，像神经网络。
没有一个蜂王在给每只蜜蜂下命令，但蜂群能找到巢址、分工、迁移。没有一个中央大脑在安排每个细胞，但生命能修复自己、适应环境、不断演化。没有一个总工程师在设计每一次交易，但价格和供需会在无数局部互动中形成秩序。
他看到的，是一个从"控制"走向"涌现"的世界。在他那里，失控不是坏消息。失控意味着生命力，意味着分布式智慧，意味着复杂系统终于摆脱了机械时代的僵硬，开始以一种更像生物、更像自然的方式生长。
用他后来的话说，"要想获得有智能的控制，唯一的办法就是给机器自由"。
三十年后，我们真的进入了他说的那个世界。但奇怪的是，我们并没有感到更自由。
我们感到的是另一种东西。一种说不清楚的无力感。一种控制感正在从手里滑走的感觉。
你打开搜索框，AI已经替你总结好了答案。你打开邮箱，AI替你写好了回复。你打开代码编辑器，AI在读项目、改文件、跑测试、提交修改。你打开短视频，系统比你更知道你下一秒想看什么。你打开购物软件，它替你预测你会买什么。你打开地图，它替你决定走哪条路。
表面上看，人类从来没有这么强大过。一个普通人今天能调用的外部能力，超过三十年前一家小公司的总和。但工具越强，人的位置反而越模糊。
你还是那个使用工具的人吗？还是你已经变成了系统里的一个输入端，一个反馈点，一个被预测、被引导、被优化的对象？
大西洋月刊刚刚发表了一篇文章，标题就叫《控制感正在消失》。文章说整个生成式AI的繁荣，本质上是一场被硅谷强加给全社会的巨大实验。这场实验的核心问题只有一个：人到底是干什么用的？
凯文·凯利当年预言的失控，终于来了。但它来的方式，和当年想象的完全不一样。
一、凯文·凯利说的失控，本来是一种乐观
要理解今天的变化，必须先回到《失控》当年的语境。
上世纪九十年代，互联网刚刚兴起，个人电脑正在普及，复杂系统、控制论、人工生命、进化算法、网络文化都处在一种兴奋的早期阶段。那是一个技术乐观主义还很纯粹的时代。人们真诚地相信，只要把中心放掉，把边缘释放出来，世界就会长出更好的秩序。
这并不是没有道理。互联网就是这样诞生的。它没有一个真正的总开关，不是一座由中心机构规划好的大楼，更像一片不断扩张的森林，每个节点都可以连接，每个人都可以发布，每条链接都可能打开一个新的世界。
开源社区也是这样，没有传统公司的层级管理，却生产出了Linux。维基百科也是这样，没有一个百科全书委员会每天坐在会议室里审定词条，但无数人靠局部修正和争论，搭起了人类历史上最大的知识工程之一。
这就是凯文·凯利最迷人的地方。
他看到工业时代最迷信的东西是控制，控制时间，控制流程，控制工人，控制成本，控制误差，控制变量。而生命最强大的地方，恰恰不是控制，而是适应，冗余和变异，是失败之后还能继续。没有一个总设计师，却能从局部互动中长出整体智慧。
所以《失控》真正反对的，不是秩序。它反对的是那种机械时代的、上帝视角的、把世界当成钟表来修理的秩序。它相信另一种：自下而上，分布式，半混乱，多中心，足够好而不是绝对最优。
KK在书里提炼了"造物九律"来概括这种秩序的逻辑。
分布式生存：不要把所有鸡蛋放在一个篮子里。自下而上的控制：让底层个体自主决策。递增收益：用得越多越有价值。模块化生长：从简单且能独立运作的模块逐步组装。边界最大化：创新和多样性来自边缘地带。鼓励犯错误：持续犯小错误以避免致命大错误。不求最优但求多目标：复杂系统不能只优化单一维度。谋求持久不均衡态：均衡即死亡。变自生变：不仅要遵守规则，更要能改变规则本身。
这九条在今天的科技行业里几乎一字不改地成了操作手册。微服务架构是"分布式生存"，敏捷开发是"自下而上的控制"，网络效应是"递增收益"，A/B测试是"鼓励犯错误"，大模型的自我进化是"变自生变"。
这也是为什么三十年前的"失控"带着一种浪漫气质。它不是末日，它更像从工厂逃向森林，从控制室逃向荒野，从总工程师的蓝图逃向蜂群的舞蹈。
KK引用过老子的话来表达这种感觉：太上，下知有之。最好的统治者，是你感觉不到他存在的那种。
二、但今天的失控，不再是同一种失控
问题在于，凯文·凯利当年默认了一件事。他默认系统可以失控，但人仍然是行动者。
互联网再混乱，是人在搜索。论坛再吵，是人在发帖。开源再分布式，是人在写代码。市场再复杂，是人在出价、议价、后悔、承担损失。那一代技术乐观主义最深的前提是：放弃中心控制，会释放个体自由。
但今天，我们面对的不是同一个世界。今天的核心变化，不是系统失去了中心，而是人开始不再处于中心。
过去，你在网上寻找答案，现在AI直接把答案递给你。过去，你在信息流里判断哪些内容值得看，现在推荐系统已经在你判断之前完成了排序。过去，你用软件执行自己的想法，现在AI代理开始替你理解任务、拆分步骤、调用工具、执行行动。
这里有一道巨大的裂缝。过去机器是工具，今天机器越来越像代理。工具放大你的意图，代理开始替你形成意图。工具回答你的问题，代理开始决定什么问题值得被回答。工具帮你走路，代理开始决定你应该去哪里。
大西洋月刊的那篇文章里，引用了在线文化研究者艾丹·沃克的一个说法。沃克说，今天互联网的用户体验，越来越像"被戴了绿帽子"：算法和模型攫取了网络上大部分的能动性，而"循环中的人"坐在屏幕前，看，点，滑，每一次滑动都是在给机器投票。人类不是在驾驭蜂群，人类变成了蜂群里被喂食的那张嘴。
这就是我在之前的文章里反复讨论过的一个命题：AI最深的危险，不是它比你聪明，而是它开始替你欲望、替你判断、替你行动。
这是一种主体性的外包。人类最早外包的是体力，后来外包的是记忆，再后来外包的是计算。现在，我们开始外包判断，外包选择，外包表达，以及方向感。
这和凯文·凯利当年说的"失控"已经不是一回事了。当年的失控，是系统获得生命。今天的失控，是人开始怀疑自己是否还在生活里"在场"。
三、权力没有消失，它只是换了一副面孔
这里藏着KK的第一个误判。
他以为放弃中央控制，权力就会自动回归个体和社区。每个人都是蜂群中一只自由飞舞的蜂，没有人指挥别人，也没有人被人指挥。但他没看到的是：放弃中央控制之后，权力不会凭空消失。它会流向那些最擅长驾驭分布式系统的人。
我在之前的文章里分析过一个重要的趋势：AI让建设产品的成本趋近于零，也让抄袭产品的成本趋近于零。当代码可以被一键生成，当设计方案可以被一句话产出，产品的护城河在哪里？答案不在产品本身，而在谁能接触到用户、谁拥有注意力管道、谁构建了信任资产。
换句话说，分销代替产品成了更高的护城河。表面上这是一个越来越去中心化的世界，实际上底层基础设施在急剧集中。少数几个平台掌握着算力、数据、模型和分发通道。它们不需要站出来命令你，它们只需要改变你每天看到的东西。
控制论的创始人诺伯特·维纳，晚年写过一本不太出名的书叫《人有人的用处》。他在里面提出了一个警告：当人类把反馈回路的控制权让渡给拥有学习能力的自动化系统，系统就会以人类无法理解的节奏反过来规训人类的行为。
系统不需要强迫你，只需要不断反馈你。你看了什么，它记住。你停在哪一秒，它记住。你跳过什么，它记住。你为什么愤怒、为什么停留、为什么买单，它都记住。然后它把一个更像你的世界递给你。
久而久之，你以为自己在看世界，其实你在看一个根据你过去反应生成的、越来越窄的回音室。
这不是传统意义上的控制，因为没有人拿枪指着你。但这可能是一种更深的控制，因为你甚至不觉得自己被控制，你只觉得"这就是我喜欢的"。
法国哲学家斯蒂格勒有一个概念很适合用来理解这种处境。他说技术是一种pharmakon。在古希腊语里，这个词同时是"解药"和"毒药"。
AI一边把你从重复劳动中解放出来，一边剥夺你的"生活知识"，那些你通过亲自动手、反复犯错、在真实世界里碰壁才获得的判断力和直觉。斯蒂格勒管这种剥夺叫"无产阶级化"，不是剥夺体力劳动，是剥夺思考的能力和做人的知识。
KK说："要想获得有智能的控制，唯一的办法就是给机器自由。"这句话在1994年听起来像技术启蒙。到了今天，它读起来是一道哲学难题：自由的机器还愿意被你"控制"吗？即使愿意，控制它们的到底是谁？
四、你不是失去了控制权，你是失去了控制感
这是KK的第二个误判：他把"系统的控制"和"人的控制感"混为一谈了。
今天最值得警惕的，不是某一个AI系统突然宣布统治人类。那种想象太粗糙了。真实的变化要安静得多。它不是以战争片的方式发生，而是以"用户体验"的方式发生。
一切都变得更顺了。邮件更顺，写作更顺，搜索更顺，购物更顺，会议纪要更顺，旅行规划更顺。甚至你跟人吵架时都可以让AI帮你组织一段"更理性、更有边界感、更不伤害对方"的表达。
问题恰恰在这里。太顺了。
人类生活里很多真正重要的东西，来得都不容易，本来就不顺。写作不是把意思输出来，而是在卡顿和摩擦中发现自己到底想说什么。阅读不是把信息下载进大脑，而是在困惑中慢慢形成判断。
选择不是从几个选项里挑最优解，而是在不确定中承认：这是我要承担后果的路。表达不是把情绪翻译成漂亮句子，而是一个人艰难地让另一个人知道自己正在经历什么。
AI的高效正在把这些过程抹平。它不一定让你变笨，但它可能让你越来越不习惯那个"自己费劲"的过程。而人的控制感，恰恰来自这个过程，而不是来自结果。
你自己查过资料，所以你知道自己为什么相信。你自己写过一遍，所以你知道那个观点是怎么长出来的。你自己失败过，所以你知道边界在哪里。一旦这些过程被系统替代，人得到的不是自由，而是一种漂亮的空心化。表面上你更快了，内在上你更轻了。轻到最后，连自己为什么这么选都说不清。
《华尔街日报》在一篇文章里给过一组对比数据。1995年，互联网刚刚兴起的时候，一项调查显示72%的美国人对新技术感到舒适，只有24%不舒适。到了2025年的AI时代，这个比例完全反转，只有31%对AI感到舒适，68%感到不安。而同一时期，美股七巨头的市值涨了169%，消费者信心指数却接近历史最低。
繁荣在涨，人在跌。
耶鲁经济学家帕斯夸尔·雷斯特雷波有一个极端推演：当机器的智能达到足以替代人类在所有领域的程度，劳动在GDP中的份额"将收敛到零，大多数收入最终归于算力"。然后他补了一句：请注意，这还是乐观场景。
这就是今天的失控感。它不是"我按了按钮但机器不听"，而是"机器太听话了，听话到最后，我不知道那个命令到底是不是我自己的"。
五、信息越多，叙事越少，人越容易焦虑和漂浮
KK的第三个误判，藏在"信息"和"叙事"的区别里。
《失控》歌颂的是信息的无边涌现和分布式流动。KK相信当信息足够多、连接足够密，智慧就会自然涌现，就像蜂群觅食、鸟群迁徙一样。他没看到的是，当信息泛滥到一定程度，它就不再是智慧的原料了。它变成了噪音，变成了杀死叙事的凶器。
韩炳哲在《叙事的危机》里做过一个精准的区分：信息加剧世界的熵，叙事减少世界的熵。
信息是去脉络化的、瞬时的、被算法切割成碎片的，它让世界越来越像一团高速旋转的沙尘暴。而叙事是有时间锚点的、有方向的、能给人提供安身之所的。信息越多，人越可能失去锚点。叙事越强，人越能在混乱中知道自己站在哪里。
今天的系统极其擅长生产信息。它能给你三分钟看懂世界局势，一分钟理解某个技术突破，三十秒掌握一个商业模式，十条总结读完一本书。但它很难给你真正的叙事。
因为叙事不是压缩，叙事是一种承担。你必须把杂乱的事实放进一个时间结构里，说明它从哪里来，要到哪里去，和什么价值冲突有关，要求你做出什么选择。
这也是为什么我在之前的文章里反复说：知识套利已死，叙事者永生。不是因为讲故事比较高级，而是因为当信息无限膨胀，人最缺的不是更多信息，而是能抵抗漂浮的意义结构。
一个人每天摄入大量内容，看过很多，懂得很多，收藏很多，转发很多，但到了深夜，仍然不知道自己究竟相信什么。这不是知识贫乏，这是叙事破产。
而叙事破产之后，人就会自动把自己交给系统，因为系统至少会给你下一条内容，下一条任务，下一条建议，下一条路。它不能给你意义，但它能让你没有空隙去追问意义。
六、人被从真实世界中连根拔起了
还有一个更隐蔽的变化，很多人还没注意到。
AI和算法并不只是替代了某些脑力劳动。它们还让人和世界的接触变得越来越间接。过去你要认识一个地方，你要走进去，闻到气味，看到人的表情，感受到天气、路面、拥挤、沉默和尴尬。今天你可以先看攻略、评分、路线、总结、避坑指南。
过去你要理解一个人，你要和他相处、误解、争吵、和好。今天你可以让AI分析他的心理类型、关系模式和沟通策略。过去你要做一个东西，你要碰材料，承受失败，知道手感。今天你可以先生成一套方案，看起来已经非常完整。
效率当然提高了。但效率的另一面，是脱离现场。
社会学家吉登斯把这个过程叫做"脱域"，社会关系从彼此关联的本土语境中被连根拔起，被抽象系统重新组织。
当一切都变成数据、标签、选项、摘要和建议，世界不再是一个你亲身进入的地方。它变成了一个被系统预处理过的界面。你不是在和世界发生关系，你是在和世界的计算版本发生关系。
这也是为什么很多人明明获得了前所未有的信息便利，却仍然感到空乏。因为人不是只靠信息活着，人靠触碰、延迟、误解、失败、身体、关系和现场活着。算法可以优化路径，但它无法替你走路。AI可以总结一本书，但它无法替你经历被一本书改变的那个缓慢过程。
哈佛教授布鲁诺·卡瓦略在研究城市规划史的时候，指出了一个贯穿现代性的核心张力：效率与体验之间永远存在矛盾。理性规划追求高效，但人的意义恰恰栖居在那些看似低效的事物中。
恋爱是低效的，阳光是低效的，街头足球是低效的，漫长的晚餐是低效的，没有任何功利目的的创作冲动更是低效到令人发指。KK的"失控"未来之所以让人喘不过气，正是因为它把效率推到了极致，而那些曾经由"低效"构成的人生质感，正在被一寸一寸地抽走。
我们这一代人，将是最后一批在没有AI深度介入的环境中被教育、被培养、被塑造的人。硅基"智能"正在蔓延，而生物心智的独创性正在变得次要、隐形。速度、便利，以及对机器的近乎崇拜，让硅基输出凌驾于生物创造之上。
有学者甚至认为，"人工智能竞赛"在生物意义上是一场竞相沉沦，不如改叫"生物智能衰退"。
这话说得有点极端，但方向是对的。人类生活里最重要的东西，很多都不是最优解。它们甚至是低效的。但正是这些低效，让人确认自己还活在世界里，而不是活在系统生成的界面里。
七、KK真正没有搞错的是什么
在批判了这么多之后，有必要说一句公道话：KK的框架里有一些东西，在今天比任何时候都更有价值。
首先是他的"活系统"直觉。最有力量、最能适应环境的系统，不是被精心设计的，而是长出来的。
这个判断已经被AI的发展本身证明，没有人"设计"出了GPT-4的涌现能力，它是长出来的。问题不在这个判断本身，而在于KK没有追问：一个有机的、不断进化的、不可完全预测的系统，对生活在其中的个体意味着什么？
其次是九律中的最后一条，"变自生变"。这不只是说系统要进化，而是说规则本身也要进化。
今天我们对AI的治理思维，仍然停留在工业时代的"立法-执行"框架里。出了问题立法，法律跟不上就恐慌，恐慌完了继续等下一次出事。用一套机械时代的工具去管理一个生物时代的系统，这本身就是最大的失控。
但KK最大的遗漏，不是技术问题。他从头到尾不谈"意义"。他讨论了系统如何运作、智能如何涌现、秩序如何从混沌中升腾，但他从来不问：活在这样的系统里，对一个具体的人来说，是什么意思？
这就解释了为什么他的预言全部成真，我们却感觉不到他许诺的那种喜悦。他描绘了一幅宏大的系统画卷，但画卷里没有人的面孔。
八、要夺回的，不是全部控制，而是几个关键开关
说到这里，很容易滑向一种廉价结论：那我们是不是应该拒绝AI，拿回人类的“控制感”？
不是。这不现实，也不深刻。KK有一点仍然是对的：复杂系统一旦生长出来，就不会退回简单系统。
人类不可能重新回到一个完全由自己手动控制一切的世界。你不可能不用搜索，不可能不用推荐，不可能不用自动化，不可能拒绝所有AI代理。那不是解决方案，那只是怀旧。
真正的问题，不是重新控制一切，而是在一个注定失控的世界里，保留几个不能交出去的关键开关。
第一个开关，是问题定义权。不要一上来就问AI"我该怎么办"。你要先问自己：我到底在解决什么问题？很多人以为自己缺答案，其实是把问题定义权交出去了。一旦问题被别人定义，答案再漂亮也不是你的。
第二个开关，是价值排序权。AI可以告诉你哪个选择更高效、更安全、更符合数据，但它不能替你决定什么值得。效率不是最高价值，安全也不是最高价值，收益更不是。人生最难的部分，恰恰是你必须在无法完全比较的价值之间做选择。
第三个开关，是最后判断权。AI可以参与第一遍，但最后一遍必须回到人。尤其是那些会改变你生活方向、关系结构、职业路径、价值承诺的决定。你可以让AI帮你整理信息，但不能让它替你承担后果。因为承担后果这件事，无法外包。
第四个开关，是真实世界反馈。越是活在生成内容里，越要回到真实世界。见真实的人，做真实的事，听真实客户的抱怨，接受真实关系里的不舒服，用身体经验校正系统经验。一个人如果长期只和模型、平台、数据和二手解释打交道，他会越来越聪明，也越来越不着地。
这四个开关，不是消除不确定性，而是在不确定性中保留行动空间。你不需要去预测AI会往哪里走，你做不到，连搞AI的人自己也做不到。
你需要做的是确保：如果A路径断了，B路径真的能顶上；你的能力不只绑定在一个行业、一个平台、一种收入模式上。你在平静时期所做的那些看起来不紧迫的准备，学习、连接、储备、健康，它们会在风暴来临时变成你唯一的缓冲区。
最后，也是最容易被忽略的一点：刻意保留一些不能被算法优化的低效。漫无目的的散步，充满误解但饱含温情的肉身交谈，不为了发表、不为了变现、只因为你想写而写的文字。这些不是落后的遗迹，它们是一个人在存在主义意义上为自己钉下的锚点。
九、失控不是末日，但不知道自己交出了什么才是
三十年前，凯文·凯利说"失控"，是在欢迎一种新生命。三十年后，我们重读《失控》，心情复杂得多。
因为我们终于进入了他描述的那个世界。机器越来越像生命，组织越来越像网络，市场越来越像算法，AI代理开始替人行动，软件开始自动生成软件，系统开始和系统对话。这一切都证明凯文·凯利看得很远。但他那个时代的乐观，今天必须被重新审视。
因为问题已经不是"系统会不会获得生命"，而是"当系统获得生命，人会不会失去自己的生命感"。
技术永远是两面刃。它解放你，也重塑你。它增强你，也削弱你。它让你更有效率，也可能让你忘记某些能力为什么重要。AI时代最危险的不是使用AI，而是在使用AI的过程中，完全不知道自己把什么交出去了。
你以为交出去的是麻烦，其实可能是判断力。你以为交出去的是重复劳动，其实可能是手感。你以为交出去的是低效沟通，其实可能是关系里的真实摩擦。你以为交出去的是搜索时间，其实可能是自己形成问题的能力。
萨特说，人注定是自由的。这句话听起来像鼓励，其实很沉重。因为自由不是想做什么就做什么，自由意味着你不能永远把自己藏在系统、环境、趋势、算法和建议背后。你必须选择，而且必须承认：这是我选的。
这就是AI时代重新获得控制感的方式。不是重新幻想自己能控制整个系统，而是在一个注定分布式、自动化、自我演化的世界里，守住那些必须由自己完成的选择。
KK教我们放手。
但今天，我们还要补上后半句：放手不是撒手，失控不是失魂。真正成熟的人，不是拒绝复杂系统，也不是跪在复杂系统面前，而是知道什么可以交给系统，什么必须留在人这里。
三十年前他说失控。这一天终于来了。只是它不像当年想象中那样，是一场奔向自由的技术狂欢。
它更像一次安静的考试。考的不是机器会不会超过人，而是当机器越来越会替你做事、表达、判断和行动的时候，你还知不知道，那个不能被替代的"你"，到底在哪里。【懂】
相关参考文章：
https://www.theatlantic.com/technology/2026/05/ai-agents-agency-crisis-humanity/687379/