本文基于医疗田野实验,提出定向AI建议概念,分析AI对权威结构的重排,探讨AI时代解释权配置的宪制问题。 ## 1. 核心概念:AI建议天然带有方向 任何AI建议都隐含排序、权重与立场,不存在无方向的中立建议。方向不是用户提示出来的,而是来自训练材料、安全护栏、责任结构、平台治理等制度安排,与信息准确性是相互独立的问题。 ## 2. AI拆解传统专家的权威束 传统信用品(医疗、法律等)市场中,专家将信息、解释、裁决、责任四层捆绑,靠制度背书获得权威,也因此获得垄断租金。AI将解释和建议的边际成本压到接近零,拆解了传统专家对前两层的垄断,只留下裁决权与责任在可追责的制度节点。 ## 3. 医疗田野实验的实证证据 该预注册大样本随机实验将就诊病人随机分为两组,一组就诊前使用AI助手,一组照常就诊,得到三个核心发现: - AI的方向由开发者责任结构塑造:该AI系统性劝病人谨慎用药、推荐检查,因为建议检查无法律风险,建议用药风险高。 - AI预先塑造病人的认知框架:使用过AI的病人就诊后药物处方率下降、检查率上升,验证了**最有效的权威是预先安排可见选项**这一判断。 - AI削弱原有信任关系:获得AI的病人对医嘱依从性、满意度均下降,医患信任变薄。 实验最终验证:解释收益向上游平台集中,责任向下压给最终签字的专家,是租金与风险的重新分配,而非帕累托改进。 ## 4. AI重构后的新权威结构 AI带来的不是权威单向迁移,而是权威结构整体重排:解释使用权向终端用户下沉,实现认识论民主化,解释生产权向上游少数模型集中。不同于传统社会的人格权威、现代社会的制度权威,AI时代形成**嵌入系统的软权威**:以帮助而非命令的面目出现,不要求服从却持续塑造用户认知,更难被戒备,深度与建议可验证性成反比,在无法事后验证的领域扩张最快、最不受制衡。 核心结果是:解释世界、决定行动、承担后果三者第一次大规模分离,传统专家制度的正当性基础被打破,且AI建议本身是更纯粹的信用品,信用品问题被推到更上游不可观察的位置,还会导致社会失去共同解释框架。 ## 5. 待研究问题与宪制命题 定向AI建议是新的研究领域,核心研究链条是:治理与责任结构塑造建议方向→用户学习选择→专家适应→平台与监管再调整,关键变量是方向能否被用户识别。 AI时代必须直面三个宪制问题:①影响力与责任是否重新捆绑,如何平衡追责与责任分配;②是否要求高风险领域AI公开方向规范,类似食品公开配料表;③是否允许单一解释基础设施成为默认入口。需要新增**方向审计**机制,定期检查AI系统性鼓励/抑制的内容,才能落实透明与多元。
谁在解释世界?
2026-07-16 00:37

谁在解释世界?

本文来自微信公众号: 霞光智库


引言:一个已经被解释过的病人


不久前,我和几位合作者在中国一家医院做了一项田野实验。预约门诊的病人被随机分为两组:一组照常就诊;另一组在就诊前一天获得一个AI助手,可以把自己的症状、疑虑和病史讲给它听,也听它讲解可能的病因、检查和治疗的选择。


这个设计的本意,是测量AI建议对医疗行为的影响。但实验做下来,我越来越觉得,我们观察到的不只是一项新技术的使用效果,而是一种历史性场景的最早一批样本:医生推开诊室的门,迎面坐着的,是一个已经被解释过的病人。


这个病人未必说得出专业术语,但他带着一套框架进来:哪些症状重要,哪些检查值得做,哪种药要慎用。这套框架不是他自己形成的,也不是医生给的,而是一个系统在就诊前一天的对话里替他组装好的。医学史上,病人从来是带着症状来的;现在,病人开始带着解释来。


这件事的分量,超出医疗。人们习惯用生产率和增长衡量一项技术的重要性。我并不确信AI会带来经济增长的爆炸。但一种技术不必迅速把蛋糕做大,也可以重新安排谁获得收入、谁拥有判断权、谁承担责任,以及人与人如何发生关系。价格理论从来不只研究总量;它更关心相对价格改变之后,资源、租金、组织边界和权威怎样移动。AI最深刻的影响,不是把知识变便宜——知识变便宜是印刷术以来一直在发生的事——而是重新配置一种更根本的东西:谁有资格解释世界、提出行动建议,并要求他人相信。


抓住这场重新配置,需要一个概念工具。我们把实验中观察到的现象命名为定向的AI建议(directional AI advice):AI提供的不是无方向的第二意见,它系统性地鼓励某些行动、压低另一些行动,而这种方向来自训练材料、安全护栏、责任结构和平台治理——一句话,来自嵌入系统之中的治理选择。在本文里,定向的AI建议是机制,权威的重新配置是它的社会后果。


下文先说明建议为什么必然有方向;再说明在医疗、法律、投资这类市场上,专家出售的从来不只是服务,而是一束捆绑在一起的权威;然后看AI把建议的价格压塌之后,这个束发生了什么——我们的实验提供了最早的一批证据;最后讨论这场拆解通向何处:一种更柔软、更上游、也更难指认的权威形式,一个正在形成的研究领域,和几个必须摆上桌面的宪制问题。



先从一个简单区分说起。AI一旦从提供事实转向给出建议,就必须排序:什么风险更重要,什么证据更可信,什么行动更谨慎,什么损失更不可接受,什么选项不应当被推荐。任何排序都隐含权重,任何权重都隐含立场。世界上不存在没有方向的建议,正如不存在没有视角的地图。“中立的建议”,多数时候只是方向没有被看见。


这一点在事实问答中不明显,在行动建议中却无法回避。“阿司匹林的半衰期是多少”没有方向可言;“我该不该继续吃阿司匹林”就必然有方向——系统要么倾向于“先去问医生”,要么倾向于“可以自行判断”,它不可能同时不倾向于任何一边,因为连“两边都说说”本身也是一种立场。AI不只是在回答问题,也在定义什么值得担心:哪些风险被放在第一句,哪些被放在最后一句,哪些根本不出现。


所以要把三件事分开:信息是否准确;建议是否有方向;方向由谁设定。今天关于AI的争论,几乎全部集中在第一件事上。有一种误会正在发生:定向的AI建议这个词开始流传之后,已经有搜索引擎的AI摘要把它解释成一种提示词技巧,仿佛方向是用户“提示”出来的。恰恰相反。方向不是某一次对话的属性,而是制度安排的属性;用户没有下任何指令,方向已经在那里了。



经济学家把商品分成三类。搜寻品,买之前就能验货,比如水果;经验品,用过才知道好坏,比如餐馆;还有一类最麻烦的,叫信用品:即使消费之后,买家仍然很难判断这项服务是否必要、是否充分、是否以合适的方式提供。达比和卡尼在一九七三年提出这个概念时,举的例子正是医疗和汽车修理。手术做完了,病也好了,你仍然不知道这一刀是不是必要;车修好了,你仍然不知道换下来的零件是不是真的坏了。


信用品的麻烦,比“信息不对称”这个词所暗示的更深。买家不只是不知道答案,他常常连问题是什么都无法独立判断。你不知道自己得的是什么病,不知道面临什么风险,也分不清坏结果究竟来自坏建议、执行的偏差,还是世界本身的不确定。反事实永不揭晓:你永远无法知道,如果当初听了另一个建议,现在会怎样。


所以在信用品市场上,专家出售的不是信息,而是判断权。具体说是三种权力:定义问题的权力——你得的是什么病,真正的问题是什么;解释因果的权力——为什么会这样,哪些因素重要,哪些只是噪声;规定行动的权力——该吃什么药,打不打官司,买什么资产。


这三种权力从哪里来?来自一个精心捆绑的束。一位执业医生身上捆着六样东西:知识存量、解释能力、临床判断、执照认证、法律责任、制度背书。病人相信医生,很少是因为亲自验证过他的知识——验证太贵,根本不可行——而是因为这个束作为整体是可信的:他考过试,有人管他,出了事他要负责。现代社会解决信用品问题的办法,不是让消费者变聪明,而是用制度替代验证。


这个束同时也是专家租金的来源。信用品文献反复证明一件事:当诊断和治疗捆绑在同一个人手里,均衡里必然带着扭曲。过度治疗、防御性医疗、过度收费,形态随责任规则和支付方式而变,但扭曲本身消不掉。病人请不起第二意见,因为第二意见同样贵,而且同样无法验证。租金就藏在验证的成本里。


AI进场,动的正是这个束。但要看清它拆走了什么、留下了什么,得先看它把什么东西的价格压塌了。



过去,获得一份专家意见是昂贵的:时间、金钱、搜寻、预约、地理距离,还有敲开那扇门所需的社会关系。AI把“第一意见”的边际成本压到接近于零:流畅、耐心、即时、有问必答,而且在深夜两点也不下班。


但稀缺没有消失,只是向后移动了。当建议大量涌现,真正昂贵的部分变成四件事:判断情境、验证建议、裁决方向、承担结果。一句话:建议变便宜,裁决变昂贵;解释变便宜,担责变昂贵。AI没有取消稀缺,它移动了稀缺。当建议的边际成本趋近于零,真正稀缺的不再是意见,而是对意见方向的裁决。


AI有双重身份。对用户来说,它常常成为第一意见——在见到任何专家之前,解释已经发生;对专家制度来说,它又像一个突然免费了的第二意见。正是这种双重身份,使它既前置塑造用户,又外部约束专家。


信用品文献早就知道,约束专家机会主义的最好工具是第二意见;但第二意见有两个毛病:一是贵,二是它本身也是信用品。AI治好了第一个毛病——把第二意见的价格压到接近零——第二个毛病原封不动。这一压一留,正是下面所有故事的来源。


由此可以推出一个可证伪的预测:凡是“解释”占价值大头、“签字”占价值小头的专业服务——咨询、投顾、基层全科的答疑职能——费率将系统性受压;凡是签字不可替代的环节——处方权、出庭权、审计签字权——相对价格上升。专业服务的价值构成,将从“知道”向“担责”迁移。


还要看清一点:AI并不是以专家的完整身份进入信用品市场。它进入了解释和建议,却没有同等进入执照、责任和赔偿。正因为进入是不完整的,它带来的不是简单竞争,而是原有权威束的拆解。拆解的样子,我们在诊室里看到了。



回到我们的实验。这是一项预注册的大样本随机实验:病人在门诊就诊的前一天,随机获得或不获得一个AI聊天助手的使用权。三组发现,恰好对应权威迁移的三个环节。


第一个发现,关于解释是如何被生产的。我们通读了对话日志。这个AI助手有一种系统性的方向:它一贯地劝人对药物保持谨慎——对中药和抗生素尤其谨慎——同时干净利落地推荐诊断检查。这个方向性不能仅由医学知识本身解释,更像是责任结构进入模型之后留下的形状:在AI的训练和护栏设计里,建议“去做个检查”几乎没有法律风险,建议“吃这个药”则有。开发者害怕什么,模型就在什么方向上谨慎。这是全文机制的第一环:责任结构塑造解释。病人以为自己得到的是知识,其实得到的是被一套责任结构过滤过的知识。


第二个发现,关于解释如何传导为行动。这个方向性没有停在前一夜的屏幕上。咨询过AI的病人第二天走进诊室,药物处方率下降,检查率上升——头天晚上对话里的谨慎,变成了诊室里的结果。效应在两类医生身上最强:愿意听取病人意见的医生,和原本开药风格比较激进的医生。这说明裁决权确实还在医生手里——处方仍然要他签字——但裁决所面对的选项集合、风险排序和病人的先验,已经被AI预先安排。我在别处写过一句话:最有效的权威,不是命令你必须选什么,而是预先安排哪些选择被你看见。在我们的数据里,这句话从格言变成了回归系数。


第三个发现,关于关系。问卷显示,获得AI的病人对医嘱的依从性下降,满意度也下降。病人第一次拥有了近乎免费的第二意见,而代价立刻显现:医患之间原本靠不对称维系的信任变薄了。权威的移动,在诊室里已经可以测量。


把三个发现放回上一节的价格逻辑,故事很整齐。专家依赖信息优势进行诱导的空间被压缩,过度处方随之减少;但新的扭曲也进来了——增加的检查未必都必要,依从性的下降有真实的健康代价。第二意见的免费化不是帕累托改进,它是一次租金与风险的重新分配。而且这场再分配是不对称的:平台取得了上游巨大的解释权,却借助护栏尽力回避与之相称的责任——我们在日志里看到的方向性,正是这种回避留下的痕迹。解释的收益向上走,责任的重量向下压,压在最后签字的那个人身上。


最后交代一句推论的边界。医疗拥有执照、临床指南和明确的签字人,已经是问责链条最完整的信用品市场之一。即使在这里,解释者与担责者也开始分离;在责任主体更模糊的领域,这种变化只会更难识别,也更难约束。



现在可以回答第二节留下的问题:AI从权威束里拆走了什么,留下了什么。我用一个四层的划分来说明。信息:知道什么。解释:如何理解。裁决:最后听谁的。责任归属:出了错谁负责。这里说的责任,主要指法律与职业制度中的可追责性——出了错,有人必须说明、赔偿或接受处分——而不是一种抽象的道德担当。传统专家把四层捆在一身。AI在短短几年之内打破了专家对前两层的垄断:它检索、比较、解释、给出初步判断,流畅、耐心、即时、近乎免费。但它拿不走后两层——不是因为技术还不够好,而是因为裁决和担责根本不是一种计算能力,而是一种制度身份。算法再聪明,也无法替你坐牢。


这里需要区分:医生保留的,与其说是担责的权能,不如说是担责的义务。“权”通常带着可支配的利益,“责”更像一副担子。这个区分马上就会显出它的分量。


于是可以陈述本文的核心命题。粗糙的说法是:解释权下沉,责任上移。但更准确的图景有四个方向:解释的使用权向终端扩散——人人都能以近乎零的价格获得准专业判断;解释的生产权向上游集中——亿万人的解释出自少数几个模型;裁决权留在制度节点——签字的仍然是医生、法官和审计师;责任则沉淀在可追责的主体身上——可识别、可签字、可起诉的那些人。把四个方向压成一句话:解释世界的人、决定行动的人和承担后果的人,第一次大规模地不再是同一个主体。而传统专家制度的全部正当性,恰恰建立在这三者至少部分捆绑之上。


这就是双重运动,但必须把它的两个层面分开。在诊室内部,权威从医生向病人横向移动:普通人第一次可以低成本地质疑专家,这像一场认识论的民主化。在社会结构上,解释权却从千百万分散的专业人士,向少数模型基础设施纵向集中:亿万人的解释出自同一个源头,而这个源头的方向性由上游的责任结构与治理选择决定。解释的使用权下沉,生产权集中,裁决权留在专业制度,责任沉在可追责的节点——这不是权威从A到B的单向迁移,而是权威结构的整体重排。一句话概括:互联网分散了表达权,生成式AI重新集中了解释权。



把镜头再拉远一点。若只看权威最典型的承载形式,人类大体走过三站——这不是三个互相替代的历史阶段,而是权威载体的重心转移。传统社会把权威的重心放在人格上:人们相信的是这一位医生、这一位牧师、这一位父亲,信任沿着具体的人建立,也随具体的人死去。现代社会把重心搬进制度:执照、学位、同行评议、专业协会——你不必认识这位医生,你相信的是筛选出他的那套程序。AI时代开始了第三站:权威嵌入系统。第三种信任的基础不是身份,也不完全是程序,而是持续可用性与认知依赖:不是“我相信这个人”,也不是“我相信筛选他的程序”,而是“我已经习惯把问题交给这个装置”。它无人格,不下班,不知疲倦;你不知道答案背后是谁,不知道哪些价值判断被写进了训练;但你在深夜两点得到了一个流畅、完整、体贴的解释,而且它不收钱。这里有一个断裂值得记下:人格权威有声誉和关系的约束,制度权威有执照、程序和同行监督;系统权威已经形成,社会却还没有发展出与其影响力相称的问责方式。


这种新权威有一个突出的性格:柔软。旧权威以命令的面目出现——医生告诉你必须怎样,教师告诉你什么是对的。AI权威以帮助的面目出现——“我可以帮你分析”“你不妨考虑以下几点”。它从不要求服从,却持续地塑造你的选项集合、你的风险感知、你行动的先后次序。它不表现为统治,而表现为服务。正因为柔软,它进得更深:命令会激起戒备,帮助不会。它甚至不要求你承认它有权威——因此反而更容易获得权威。


但这个论题必须带上边界条件,否则就成了不可证伪的时代感叹。AI权威的深度,与建议的可验证性成反比:越难验证,权威走得越深。有些领域自带结果纪律:官司有输赢,投资有收益率,翻译错了会被发现。在这些领域,AI的权威会被结果反复校准,说大话的模型会失去用户。真正的深水区是纯信用品:预防医学、教育路径、育儿方式、职业选择、宏观政策。在这些领域,反事实永不揭晓,结果纪律极弱,权威只能由表达形式、平台声誉和既有信任来支撑——而表达形式恰恰是AI最强的地方。可以预测:AI权威扩张最快、最不受制衡的领域,将是那些最无法事后验证的领域。


但AI削弱了旧权威,并不等于解决了信用品问题。恰恰相反:AI的建议本身,就是一种更纯粹的信用品。病人无法验证医生,同样无法验证模型。说它“更纯粹”,是因为验证的条件反而变差了。你和医生之间至少有重复博弈:他在本地行医,砸了招牌要付代价;他有执照,可以被吊销;他有名字,可以被起诉。你和模型之间,这三样都没有。我们实验里那个劝病人慎用药物的助手——它的谨慎,是为病人的健康校准的,还是为开发者的法律风险校准的?从对话界面上看不出来。这不是阴谋论,是信息结构:方向性写在训练里,用户只看得见流畅。更麻烦的是,结果出现以后,AI仍然可以继续生产解释:投资亏了,可以归因于外部冲击;治疗败了,可以归因于个体差异。失败未必推翻原来的建议,反而可能被一份新的归因报告重新吸收。解释不只填补验证的空缺,有时也会取代验证本身。信用品问题没有被AI消灭,只是被搬到了更上游、更不可观察的位置。


还有一层代价,关于公共性。传统权威再不济,也面对一个共同的公众:同一本教科书、同一份报纸、同一套法律解释。人们哪怕反对它,也在反对同一个东西。AI则为每个人生成各自的解释。于是出现一个悖论:个体获得了前所未有的理解便利,社会却在失去共同的解释框架。一个社会未必需要所有人拥有相同的答案,但它至少需要人们知道彼此在回答同一个问题。个性化解释的危险,不只是答案不同,而是问题本身被分别改写——公共争论悄悄变成了私人适配,连分歧都难以对齐,因为人们不再分歧于同一个问题。



到这里,定向的AI建议就不再只是一次实验的发现,而是一个研究对象。它所打开的问题,有点像增长理论中的“定向技术变迁”:重要的不是建议总量增加了多少,而是建议朝哪个方向走、方向由什么决定,以及这个方向如何反过来塑造均衡。


沿着这个类比,问题自然地排成一条链。方向由什么决定——责任结构、商业利益、专业规范,还是政治目标?用户什么时候察觉方向,察觉之后是信任、打折、抵抗,还是改写提示词绕过去?他们会不会在不同方向的模型之间自我选择,让“谨慎型AI”与“进取型AI”各自聚拢起气质相投的用户?专家如何回应一个被AI预先解释过的客户——解释更多,还是防御更多?平台会不会根据用户的抵抗,反过来修改护栏?长期重复的建议,会不会把平台的一次治理选择,沉淀成下一代人的社会规范?


这套动态研究的首要变量,是方向能否被识别。用户的反应取决于两层认识:他是否看见方向,以及他如何解释方向。若他不知道建议有方向,平台的影响是隐性的;若他知道有方向却不知道来源,多半只能做粗糙的折扣;只有当他既看见方向、又能归因——归于专业知识、平台免责、商业利益还是政治治理——策略性的选择才成为可能。把谨慎理解为专业可靠,与把谨慎理解为平台免责,会产生完全不同的信任和选择。方向本身重要,对方向来源的信念同样重要。


竞争是一个更锋利的问题:模型市场的竞争,究竟会削弱方向性,还是把社会分割成互相隔绝的方向性生态——如同媒体市场按立场分层那样?如果竞争的结果只是让每个人找到更符合自己偏见的方向,那么“透明”与“多元”这些词的政策含义,将与我们习惯的理解很不相同。


这场演化有一条清楚的链条:治理与责任结构,塑造建议方向;建议方向,引起用户的学习和选择;用户的变化,迫使专家适应;而这一切,又反过来推动平台与监管再调整。每一个环节都是一片有待开垦的领域。而且它显然不限于医疗。法律:AI更倾向和解还是诉讼?金融:更倾向保险还是冒险?教育:更倾向标准答案还是竞争性筛选?公共事务:更倾向解释政策、引导服从,还是帮助申诉?各个学科都关心这些问题,但迄今为止,它们既没有统一的概念,也没有系统的证据。定向的AI建议试图提供统一的概念;系统的证据则刚刚开始积累。



怎么办?要抵抗两种懒惰的结论。一种是“让技术的归技术”,假装这只是一次工具升级;另一种是“把它拆了”,假装权威迁移可以被禁令取消。有出息的问题是宪制性的,而宪制从来不是一份好原则的清单,而是权力如何配对。我认为有三个问题必须摆上桌面。


第一,解释力与责任是否应当重新捆绑?一个系统若大规模地影响他人的行动,是否应承担与影响力相称的责任,还是继续让最后签字的人扛下全部后果?执照制度完全可以强制重新捆绑——要求关键决定必须有人类签字,把责任锚回一个可以被起诉的主体。但要看清这个方案的代价:它在稳住追责链条的同时,也把责任的全部重量压在了不生产解释的那一端。权力与责任必须相匹配,这是三问共同的底座。


第二,使用者有没有权利知道,“谨慎”是为谁校准的?模型的保守,可能是为了病人的福利,也可能是为了开发者的免责、监管的合规或品牌的安全。这些目标并不相同,而在对话界面上,它们看起来一模一样。这不要求公开算法,只要求公开规范方向——如同食品公开配料表,不必公开配方。一个可行的起点,是要求高风险领域的AI输出尽量分清四个层次:已知事实、因果判断、价值权衡、行动建议。分清了层次,使用者才不至于把平台的治理偏好,误当成事实的自然推论。


第三,社会是否允许单一的解释基础设施成为默认入口?这里的竞争不是市场份额的竞争,而是社会先验的竞争。多个模型若共享相近的语料、护栏逻辑和法律激励,表面的多元未必是真正的多元。一个社会的先验形成,不宜交给单一的解释者——哪怕它非常耐心。


三个问题决定治理的方向。但要回答这些问题,首先需要看得见方向。因此,在准确率和安全评测之外,还需要一种新的例行检查:审计模型的方向——它系统性地鼓励什么、抑制什么,不同人群是否收到不同的方向,模型更新之后方向有没有漂移。可以叫它方向审计(directional audit)。没有这种审计,“透明”与“多元”都只是无法核验的形容词。


把三个问题压成一句:AI时代真正的宪制问题,不是机器能否说话,而是谁可以大规模地塑造他人的问题定义,却不对由此产生的行动负责。过去的政治经济学问:谁拥有土地、资本和印刷机。现在必须加问一句:谁拥有解释。谁控制大规模建议的方向,谁就在参与分配社会权威。



每个时代都有自己安置权威的方式。传统社会把它寄托在人格里,现代社会把它安置在专业与制度之中,AI时代开始把它嵌进系统。我们这一代人得到的,是历史上从未有过的解释便利:任何问题,随时随地,有问必答,温和而耐心。我们付出的,是一种前所未有的分离:解释世界的人、决定行动的人和承担后果的人,第一次大规模地不再是同一个主体。这种新的权威不仅没有面孔,而且不在最后签字的地方出现。


这个时代不是没有权威。这个时代的问题是,不再知道权威在哪里。


本文第二部分的实证结果,出自作者与合作者的田野实验论文"Directional AI Advice:Experimental Evidence from Healthcare"(arXiv:2607.08706)。

AI原生产品日报频道: 前沿科技
本内容由作者授权发布,观点仅代表作者本人,不代表虎嗅立场。
如对本稿件有异议或投诉,请联系 tougao@huxiu.com。
正在改变与想要改变世界的人,都在 虎嗅APP