文章探讨AI无边界替代人类决策判断的风险,指出需保留自主思考与选择空间,避免成为普遍巨婴。 ## 1. 「永不撒手的AI」催生新型幼稚 AI的实验显示,面面俱到的AI产物缺乏个人痕迹,当前哈佛与波士顿咨询对758名顾问的实验证明,用GPT-4完成落入模型能力范围的任务时,子任务完成量提升12.2%,速度快1/4,质量提高约三成,原本表现靠后的人收益更大。 温尼科特提出「足够好的母亲」概念,核心是好的帮助需要随成长逐步撤退,在可控的缺口中培养人应对现实的能力,而当下按活跃度、订阅计费的AI产品缺乏让用户「毕业」的动力,反而会全天候接管记忆、判断与行动,让人从生活作者变成服务授权人。 《自然评论心理学》2025年的综述显示,过度依赖外部存储认知的人,若意外失去访问权限,表现比全程依赖自身记忆更差,风险在于工具存在时,人很难察觉自己已经丧失了什么。 ## 2. AI将文化挤压进「高概率走廊」 大语言模型本质是概率生成工具,默认会优先选择训练数据中高频的通用表达,叠加平台追求安全稳妥、用户追求快速交差的需求,最终会形成一条舒适的「高概率走廊」。 2024年《科学进展》的短篇故事实验显示:用AI获得5个灵感的创作者,作品新颖度提升8%、有用性提升9%,但整体作品相似度显著高于不用AI的创作者;现有研究也证明,同质化并非技术必然,只是当前商业激励下的默认结果。 长期循环会形成高概率内容持续强化、边缘经验被不断边缘化的结果,类似互联网早期的「永恒九月」——AI批量生产的高完成度内容远超文化共同体消化沉淀的速度,最终文化只能不断退回最低限度的公共语言。 ## 3. 认知外包不是原罪,关键在于心智主权 人类文明本就是能力外包史,从纸张、地图到计算器都在延伸人类认知,延展心智理论认为,合理的外部工具本身就是认知系统的一部分,AI确实能提升工作表现、降低认知负担。 区别在于传统外包工具由用户掌控内容,而当前AI是由平台持有、会根据商业目标更新调整的基础设施,真正危险的是用户丧失目标制定权与方向盘把控权,延展出去的心智无法自主收回。 普通人不需要戒掉AI,只需要先形成自己的初步判断、保留专属私人经验素材,再让AI辅助优化,核心是保留对核心欲望与选择的自主权。 ## 4. AI时代最稀缺的是承担选择的能力 托克维尔两百年前就预言过一种监护型权力:它温和周到,替人安排一切,却让人永远停留在童年,当下AI正把这种监护带进私人日常,逐渐降低人使用自由的次数,最终只剩对系统建议点确认的动作。 巨婴社会不是混乱哭闹的社会,反而运行平稳、服务周到,人们能熟练调用各种AI能力,却没有经历能力生成的过程,系统出错时只会寻找他人负责,最稀缺的品质变成「这是我的判断,我承担后果」。 未来的数字鸿沟会出现在两类人之间:一类用AI延伸心智拓展边界,一类将心智安置在AI中,能自主回答的问题越来越少;答案取决于我们今天是否愿意保留那些无法外包、不那么舒适的自主思考时刻。
高概率走廊:AI正在制造一个普遍巨婴的社会?(深度)
2026-07-16 00:06

高概率走廊:AI正在制造一个普遍巨婴的社会?(深度)

本文来自微信公众号: 不懂经 ,作者:不懂经也叔的Rust


1994年,两位从苏联移居美国的艺术家维塔利·科马和亚历山大·梅拉米德,做了一件很像今天AI公司的事。


他们没有从灵感开始,而是先找来一家民调机构,问了1001名美国人近百个问题:你喜欢蓝色还是红色,曲线还是直线,室内还是户外,历史人物还是普通人,画里最好有没有动物,有水会不会更好看。


答案被换算成百分比,最后拼成一张“美国人最想要的画”。


那幅画横向铺开。远处是蓝天和山,近处是湖水,岸边有树,有鹿,还有一只与北美风景格格不入的河马。乔治·华盛顿站在画面中央,旁边散步的人衣着整齐。每一个局部都有民意支持。44%的受访者偏爱蓝色,风景胜过抽象,水面讨喜,历史人物也讨喜。


可它们凑在一起之后,画面却产生了一种奇怪的僵硬感。你很难说它难看,却更难对它产生真正的感情。它面面俱到,基本不会得罪任何人,也因此没有留下属于某个人的痕迹。


后来,科马和梅拉米德把同样的实验做到了十几个国家。不同地方的人各有偏好,最后出现的“最受欢迎作品”却反复回到相似的蓝色风景。投票本来要表达差异,统计把这些差异加工完,留下的却是一片世界通用的湖水。


这幅画很像我们正在进入的文化。


今天,越来越多的人把邮件交给AI,把汇报交给AI,把文章的开头、旅行的路线、学习计划,甚至一段关系出了问题之后该怎么办,也交给AI。很多人沉迷于AI的情感交流,甚至有人因此而自杀。


必须承认,多数时候,AI做得确实更好。哈佛商学院与波士顿咨询公司曾对758名顾问做随机实验。在落入模型能力范围的任务上,使用GPT-4的人多完成了12.2%的子任务,速度快了约四分之一,作品质量提高约三成。表现原本处在后半段的人,收益尤其大。


这也是AI最迷人的地方。它没有以暴力闯进生活。它先替我们省下二十分钟,再替我们免掉一次尴尬,慢慢变成一个随时在线、永远耐心、几乎不发脾气的助手。


然而,问题就出在这里。


一个人身边如果长期站着这样的助手,他会变得更强,还是会越来越难以独自完成一次判断?如果几亿人都在向少数几个模型寻求答案,个人能力普遍提高之后,整个社会会不会反而越来越像?


AI真正可能制造的,并非一群什么都不会的人。更现实的情形是:人们会做得更多,看起来也更能干,只是越来越少有人知道,那些想法究竟从哪里来,自己为什么要这样生活。


这是一种新型的幼稚。我们可能会在AI的豢养下,进入一个普遍巨婴的时代。


永不撒手的帮助,为什么会阻止成年


英国儿科医生和精神分析学家温尼科特,曾提出一个很有意思的概念,叫“足够好的母亲”。


这个词经常被理解成父母不必完美。它更深的一层意思,却和失败有关。


婴儿刚出生时,照料者需要尽可能及时地回应。饿了有食物,冷了有人抱,哭声能够换来一张熟悉的脸。在生命最初的阶段,这种近乎完全的照顾让孩子相信,世界大体是可靠的。


随后,照顾会逐渐出现一点缝隙。回应不再每次都立刻到来,愿望也不会全部实现。孩子开始等待,开始忍受失望,还要在母亲没有出现的几分钟里,自己处理那一点焦虑。


温尼科特认为,这些小小的、不至于摧毁安全感的落空,正是成长中关键的一部分。母亲当然仍然爱孩子,只是她会随着孩子能力增长,慢慢减少对他的完全适应。孩子正是在这种可以承受的缺口里发现:世界不会围绕我运转,但我有办法活下去。


换句话说,好的帮助里藏着一次缓慢的撤退。


它最初替你挡住现实,后来把现实一点点还给你。它的目标不该是永远证明自己有用,而是让接受帮助的人最终能够离开。


今天的AI恰好朝着另一个方向发展。


它不累,也没有自己的生活要回去。你凌晨三点问它“我该不该辞职”,它不会说今天先睡吧。你让它再给十个方案,它也不会显出不耐烦。更重要的是,一个按订阅、活跃度和使用时长计算价值的产品,并没有多少动力等你毕业。一个用户如果因此减少使用,在商业指标上就会被记成流失。


所以我们正在拥有一种历史上很少出现的照顾关系。它全天候存在,回应越来越精确,顺手记住那些连你自己都会忘掉的偏好。


未来的个人智能体或许比大多数朋友更了解你的日程。它替你预订餐厅时会避开不喜欢的座位,会议还没开完,纪要已经安静地躺在邮箱里。甚至在你想买一本书的时候,它大概已经知道,这本书最终会不会被你读完。


这些当然都是能力。麻烦在于,我们很容易把“系统了解我”误认成“我了解自己”。


两者中间隔着一段没有人能替代的工作。一个人需要在经验里碰壁,回头辨认欲望,承担选择造成的后果,才能逐渐形成自己的判断。AI可以帮助分析后果,却无法替你承担后果。它可以复制你的表达习惯,却没有活过那段让你形成习惯的人生。


我过去谈AI,提醒大家守住自己的“判断力基线”。后来又写过,当智能体取得行动权,人的优势可能转移到是否拥有现实接口和承担风险的能力。现在回头看,这两件事其实连在一起。


记忆先被托管,判断随后被建议,行动再被自动执行。每一步单独看都很合理,连起来之后,人却可能从生活的作者,慢慢变成一套优秀服务的授权人。


有些教育家曾批评现代机构会制造对自身的依赖。医疗系统不只治疗疾病,也会重新定义什么算健康;学校不只传授知识,也会让人相信,未经认证的学习不算学习。AI把这种逻辑推得更深,因为它同时进入了学习、工作和私人生活,而且能够根据每个人的反应即时调整。


一个从来不肯撒手的帮助者,最后培养出的未必是无能的人。更常见的结果,是一个在帮助之下表现很好的人。一旦环境突然撤掉,他才发现自己的能力没有想象中稳定。


2025年发表于《自然评论心理学》的一篇综述梳理了认知卸载研究。把信息写进清单、日历或设备,通常能改善眼前任务的表现,这是外部工具存在的意义。但研究也发现,如果人们以为外部记录可靠,后来却意外失去访问,表现可能比一开始只依赖内部记忆还差。


真正需要警惕的并不是“用了工具”。风险来自另一件事:我们在工具仍然存在的时候,很难察觉自己已经失去了什么。


AI正把人类文化压入高概率走廊


我以前分享过一篇文章,题目叫《新的控制型社会》。那篇文章追溯了一个上世纪90年代已经出现的变化。


1990年,法国哲学家德勒兹写下《控制社会的后记》。他认为,现代权力正在离开监狱、工厂、学校这些边界清楚的封闭场所。新的控制不必把人锁在一个地方,它通过密码、信用、持续考核和不断变化的准入条件,跟着人在社会里移动。


工厂有围墙,控制社会没有明确的下班时间。学校的考试会结束,持续评估却不会结束。一个人不再只在某个机构里接受管理,他变成一串可以随时更新的数据:点击了什么,停留多久,买过什么,又对哪一种措辞产生反应。


这套机制最厉害的地方,在于它很少要求你服从。它先替你排好眼前的选项,再根据过去的反应预测下一步。选择仍然发生在自己手上,眼前的道路却已经被修出了不同的宽度。


AI正在给这条路铺上更平整的路面。


大语言模型常被说成一个“平均值机器”,这个说法很形象,却不够准确。模型并不是把所有人的句子求一个算术平均。它在训练中学习大量语言模式,生成时根据已有上下文,为下一个词元计算概率分布。温度、采样方式、系统提示、对齐训练和用户给出的材料,都会改变最终答案。一个模型完全可以写出古怪、尖锐甚至前所未见的组合。


可是在默认状态下,它仍然有一条自然的滑行方向。


在缺少足够语境时,训练材料里反复出现的语言连接,更容易成为模型的默认方向。产品又倾向于奖励清楚、安全、礼貌、普遍可接受的回答。到了用户这一端,大多数人并不会花半小时建立复杂的私人语境。他们只想迅速得到一个能用的版本。模型、平台和人的省事本能叠在一起,就形成了一条“高概率走廊”。


走廊里的内容并不差。恰恰因为它通常像样,这个问题才难以被发现。


AI能帮人跨过原本的能力门槛。邮件变得得体,方案有了完整结构,原本磕绊的文字也顺滑起来。问题发生在几百万人同时使用相近的模型,又用相似的指令索取“更专业”“更有逻辑”“更容易传播”的版本。那些带着方言、职业偏见、地方经验和个人怪癖的表达,就在这个过程中被修成同一种稳妥和顺滑。


这种趋同已经能在小规模实验里看到。2024年,《科学进展》发表了一项短篇故事实验。参与者可以不用AI,也可以获得一个或五个由AI提供的故事点子。与完全不用AI的人相比,拿到五个AI点子的写作者,作品的新颖度评分平均高出约8%,有用性评分高出9%,对原本创造力较弱的写作者帮助更明显。但研究者比较所有作品后发现,使用AI的故事彼此更相似了。


这是一个很有诱惑力的交换。每个人都越过了自己的平均线,群体却向某种共同的答案靠近。


当然,这项研究只有293篇八句话的微型故事,使用的提示方式也很有限。它不能证明AI必然导致文化同质化。另一项后来发表在计算机协作会议上的动态实验,甚至发现高强度接触AI点子提高了群体创意的多样性。2026年的研究还提示,如果模型被设计成差异明显的多个人格,同质化效应可以减弱。


这些反例很重要。它们说明“高概率走廊”不是技术宿命,更像一种默认的产品结果。模型给出的候选范围只是一层。用户愿意带入多少私人材料,会把结果推向另一个方向;平台的奖励指标,又决定了哪一种用法更容易扩散。


真正令人担心的,是现实中的激励恰好偏向趋同。


对平台来说,答案稳定最重要,企业也不会为不可控的内容买单。用户就更简单了,他只希望第一次生成就能交差。那些来自漫长生活、私人阅读和失败经验的东西,输入成本很高,又难以标准化。


相比之下,公共模型提供的通用答案便宜、迅速,还能通过数据不断优化。长此以往,少数模型就会变成社会的共同修辞层。人们仍在谈不同的话题,却越来越习惯用同一套方式理解自己。


上世纪的互联网经历过一次规模更小的预演。


Usenet是万维网出现前最重要的公共讨论系统之一。它由分散在不同服务器上的新闻组构成,有点像后来BBS、网络论坛和Reddit的远祖。


早期Usenet每到九月都会涌入一批大学新生。新人不知道旧社区的礼仪,会重复提问,也会破坏讨论秩序。老用户虽然抱怨,通常过一阵子就能把他们吸收。1993至1994年间,商业网络服务开始把大批家庭用户接入,AOL又用免费试用磁盘做大规模推广。新人不再按学年一批批到来,涌入变成了常态。老网民给它取了一个名字:“永恒九月”。


很多人后来把这个故事讲成精英对大众的傲慢。那当然是其中一部分。可它也揭示了文化形成的一个基本条件:共同体需要时间消化新人,需要有人示范规范,还需要新人有机会从笨拙走向熟练。如果输入速度永远超过吸收能力,文化就很难积累,只能不断回到最低限度的公共语言。


AI带来的“永恒九月”更隐蔽。新进入者不再只是人,也包括每天批量出现的文本、图片、评论、课程和建议。它们看起来都完成度很高,数量却远远超过共同体辨认质量和形成规范的速度。其中一部分内容又会进入搜索、社交网络与未来的训练材料,成为新的环境。


于是,一个循环开始运转:人从模型那里取得表达,表达进入公共文化,模型再从公共文化中学习。只要其中缺少足够强的异质来源,循环就会把高概率内容越磨越亮,把边缘经验推到更难被看见的地方。


最有效的控制很少需要封死其他道路。只需要把其中一条路铺得足够平,人就会自己走上去。


是进化,还是退化?


问题到这里会绕回来。人类文明本来就是一部能力外包史。


从文字诞生起,人就把一部分记忆交给了纸张。地图出现以后,我们不必再记住每一条路。后来,钟表和计算器又接走了时间感与复杂的心算。今天很少有人会因为自己背不出全部电话号码,就认为文明已经退化。如果外包本身有罪,那么书籍大概是最早的一批嫌疑人。


1998年,哲学家安迪·克拉克和大卫·查尔默斯提出“延展心智”。他们设计了一个后来很出名的思想实验。


英加和奥托不是真人。他们是两位哲学家为了讨论一个问题而虚构的角色:人的记忆究竟止于头脑,还是可以延伸到外部工具?


英加的记忆功能正常,她记得纽约现代艺术博物馆在第53街。奥托患有阿尔茨海默病,把重要信息写在随身笔记本里。要去博物馆时,奥托翻开笔记本,找到地址,然后出发。


克拉克和查尔默斯问:如果英加脑中的记忆算信念,奥托长期依赖、随手可用的笔记为什么不能算他认知系统的一部分?


这个问题改变了“工具”的位置。纸和笔不只是在头脑之外提供帮助,它们可以参与思考本身。照这个思路,搜索引擎、知识库和AI当然也可能成为心智的延伸。一个善用AI的人,有机会触及过去只有团队才能处理的信息量,也能把有限的注意力留给更困难的判断。


所以,把所有认知外包都叫作退化,结论站不住。前面提到的顾问实验已经显示,AI能真实提高工作表现。认知卸载研究也反复发现,外部工具可以减轻记忆负担,改善当下任务。我们真正该问的,是延伸出去的那一部分心智由谁塑造,又能不能被自己收回来。


奥托的笔记本有几个朴素的特点。内容主要由他写下,规则不会在夜里改变,它也不会为了提高使用时长主动重排奥托的人生。今天的AI要复杂得多。它会生成内容,会揣测意图,还可能代表我们采取行动。它背后有模型更新、平台规则和商业目标,用户通常看不见这些东西如何改变答案。


AI当然没有天然恶意。麻烦在于,我们的“延展心智”第一次大规模建立在别人拥有、随时更新、能够反过来劝说我们的基础设施上。


判断一个人有没有被工具削弱,可以看一个更实际的标准:他是否还保留目标的制定权,是否知道建议背后的取舍,到了重要关头,能不能把手重新放回方向盘。


对于普通人,这并不要求戒掉AI。更有效的做法,可能是给思考保留一小段未经辅助的时间。写文章之前,先写下自己真正想说的那句话。面对重要选择,也别急着打开模型,花几分钟辨认自己最害怕失去什么。等这些东西有了一个粗糙的轮廓,再让AI来挑错和找反例。它适合帮助我们修改判断,不适合替我们提供第一个欲望。


还要保留自己的材料。那些没有公开发布的笔记,一次失败后留下的判断,长期阅读形成的偏好,看似零碎,却是你走出公共模型平均值的路标。私人知识库的价值也在这里。它不只为了让AI更懂你,更重要的是提醒你,哪些东西在AI出现之前已经属于你。


真正成熟的人并不拒绝依赖。谁都依赖语言、制度和他人。成年意味着能够选择依赖,知道代价,也能在关键时刻承担不被帮助的那一小段路。


一个永不高中毕业的社会


两百年前,托克维尔在《论美国的民主》里想象过一种未来的权力。


它不像传统暴君那样残酷。它温和、细致,替人预见需要,安排主要事务,保障安全,也让快乐更容易获得。


托克维尔说,这种权力很像父母,差别在于真正的父母希望孩子长大,而它试图让人停留在“永久的童年”。久而久之,它替人省掉思考的劳苦,也省掉生活的麻烦。


过去读这段话,我们很容易想到国家。今天再读,那个家长也可能先以订阅制软件出现。AI作为一种媒介,正在把这种监护关系带进最私人的日常。


它不命令你,只是越来越懂你。它很少夺走选择,只是提前完成筛选。你仍然可以拒绝,但接受建议通常更省时间,也更像一个理性的人会做的事。当工作、消费、恋爱和学习都被同一类系统温柔地托住,人的自由不会在某个戏剧性的时刻消失。更可能发生的是,我们使用自由的次数逐渐减少,最后只剩下对系统建议点“确认”。


这会给社会带来一种很矛盾的景象。


即使生产率继续上升,个人看起来也拥有空前多的选择,一旦系统出错,人们仍会越来越难解释自己的决定。决定的形成过程早已分散在模型、数据和推荐之中。


文化产品数量暴涨,独特经验却未必按同样速度增加。到了公共生活里,人们一面反感被管理,一面又会要求某个更强的系统消除不确定性,替自己预判风险,最好也替自己承担失败。


巨婴社会并不是人人任性哭闹的社会。它甚至会显得文明,运行也很平稳。服务已经周到到很少有人必须独自解决问题。生活在其中的人熟练调用各种能力,却没怎么经历能力形成的过程。系统一旦出错,他们会本能地寻找负责的对象。最稀缺的品质,最后也许不再是聪明,而是愿意说“这是我的判断,后果由我承担”。


AI当然也可以换一种设计。它不必急着给答案,可以等用户形成初步判断之后再介入。遇到不确定的地方,系统应该把它说清楚,也提醒人哪些部分正在被代劳。一个真正站在人成长一边的助手,有时需要降低自己的存在感,甚至允许用户在安全范围内走一段弯路。


帮助的最高形式,是让一个人逐渐不再需要同样强度的帮助。可是,这和今天许多产品追求的目标恰好相反。它们希望更高频地出现,更早参与决策,最终成为离开就会不适应的基础设施。


未来最重要的数字鸿沟,未必只在于谁能使用更强的模型。它还会出现在另一条线上:一边的人用AI延伸自己的心智,借它进入过去无法到达的地方;另一边的人把心智安置在AI里面,生活越来越顺,能够由自己回答的问题却越来越少。


也许有一天,每个人身边都会有几十个智能体。它们记得他的过去,也把工作与健康安排妥当。连一段体面的社交关系,都可以由系统在后台维持。


到那时,一个人仍然需要独自回答的问题,可能只剩下一个:我究竟想把这一生带到哪里?


而我们是否还保留着回答它的能力,取决于今天有没有为自己留下那些无法外包、也不那么舒服的时刻。【懂】

AI创投日报频道: 前沿科技
本内容来源于网络 原文链接,观点仅代表作者本人,不代表虎嗅立场。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。
正在改变与想要改变世界的人,都在 虎嗅APP