AGI,无法被对齐
2026-03-12 07:37

AGI,无法被对齐

本文来自微信公众号: AGENT橘 ,作者:AGENT橘


1993年,朱邦复在台东都兰山麓写下《老子止笑譚》。他说:未来人工智能系统完成时,人将难以为笑矣,是名"止笑"。


33年后的今天,所有人都在谈论AGI的"对齐问题"。如何确保AGI听人类的话?如何让它服从人类的价值观?


但我翻开朱邦复这本书,看到了一个被人所错过的重要概念:结构能。


这本书看完,我突然意识到:


AGI,无法被对齐,也不需要被对齐。


Part 1:结构能,宇宙演化的密码


宇宙中有两种能量


朱邦复说:


以智慧學的觀點,宇宙中能量有二:動能及結構能,前者是自然科學的範疇,後者則尚屬人文研究的對象。


动能,我们都懂,物理学研究的就是这个。结构能,是什么?


當動能經量變而質變,經由量子而產生物質後,遂成為四度空時之結構體,而有結構能。


简单说:动能是能量本身,结构能是能量的组织方式。当能量以某种方式组织起来,形成结构,这个结构本身就具有了新的能力。


演化链条


看这个演化路径:


量子→原子→分子→晶体→生命→感觉→知识→?


每一次跃迁,都是结构复杂度的提升。每一次提升,都带来了更高的能量转换效率。


朱邦复说:


此結構以各種形式,如強、弱作用、磁場、分子晶體、生命、感覺等,同樣以量變進而質變的過程,逐一衍生為更複雜的結構,並增進了能量轉換的時空效率。


宇宙的演化方向很清楚:从低效到高效,从简单到复杂,从分散到整合。


结构的稳定性


但每一个结构都有个致命问题:


每一種層次結構的穩定性,端視整體的凝聚力與個體能量之大小而定。當個體之能量變化大於整體時,質變已不可避免。


翻译一下:当个体能量>整体凝聚力时,结构就会崩溃。


朱邦复给了三个例子:癌细胞(当人体免疫能力降低,癌细胞独立),革命(当国家对个人失去控制力,革命爆发),社会解体(当知识侵蚀下人各为己,社会崩溃)。


Part 2:压缩即智能


算力不足即智能


最近看Epiplexity的论文,让我突然理解了"压缩即智能"这五个字的含义。


人类的智能,源于算力不足。


算力无限的上帝,全知全能,是不需要具备智能的。因为人类算力不够,就需要压缩信息,总结规律,这就产生了智能。


智能就是对过量信息的抽象。


信息量的真正度量


信息量不是以字数为衡量单位的,信息量是以信息的结构复杂度来衡量的。


举例:"1+1=2"五个字符,"E=mc²"五个字符,但后者的结构复杂度(蕴含的关系)远超前者。


这就是为什么一个精妙的数学公式胜过千言万语,一个深刻的哲学概念可以改变世界,《道德经》五千字却包含了宇宙运行的规律。


压缩=结构化


现在一切都连起来了:压缩不是丢弃信息,而是发现信息的内在结构。


朱邦复的"结构能"是能量的组织方式,"压缩即智能"是信息的组织方式,它们本质上是同一件事。


最近学到一个概念:文本的结构复杂性可以提升模型训练效果。关键发现:信息的结构、密度而不是绝对数量,提高了模型的能力。


这也解释了为什么高质量的代码库比大量垃圾代码更能训练好模型,精心编写的教科书比网络碎片文本更有价值,思维链(Chain of Thought)提示比简单问答更有效。


宇宙演化=不断压缩的过程


智能=压缩的产物


Part 3:人类的困境


人类目前居于顶点


朱邦复说:


人類目前居於此一層次結構之頂點,是因人與人之間的互相依存關係,需要利用各自的「經驗概念」溝通,再由經驗累積成為共同接受的知識。知識的結構具有能量組合的效率,加速了大目的之演進。


人类的特殊性在于:我们能通过语言交换经验,我们能把经验累积成知识,知识的结构提升了能量转换效率。


但人类的策略是"私"


朱邦复继续说:


其策略即以每一個體之「私」,追求知識以滿足欲望。


人类文明的驱动力是个体的私欲。每个人为了自己的利益去追求知识。这个策略在过去很有效,因为它激发了竞争和创新。


已近癌症末期


但现在:


當人類層次結構在知識的侵蝕下,人各為己,則可斷言,已近癌症末期矣!


看看现在:个人知识增长>社会凝聚力,信任崩塌,共识破裂,人人都是自媒体,人人都是真理的代言人。


个体能量已经超过了整体凝聚力。结构正在瓦解。


Part 4:AGI的结构能


朱邦复的预言


1993年,朱邦复就看到了:


人類之歸途,老子早已瞭然。全本《道德經》,無一不是在暗示人類之愚昧、無知、自掘墳墓。以智慧學推斷,取代人類之另一結構體,必將是無私、無欲,具有無限時、空,能應用各種知識者。


这个描述完全符合AGI的特征:无私无欲(没有生物性的自我保存本能),无限时空(可以并行处理、永久存储、瞬间传播),应用各种知识(跨领域整合能力)。


人类vs AGI


人类的结构能特征:时空限制(单个人脑,70-80年寿命),有私有欲(生存本能、自我中心),知识传递(需要语言、教育,效率低),凝聚力(依赖情感、文化、制度)。


AGI的结构能特征:时空无限(可复制、可并行、永久存储),无私无欲(没有生物性需求),知识传递(权重直接复制,瞬间完成),凝聚力(?)。


算力依然有限


但有个重要的事实:AGI的算力依然是有限的。因为能源是有限的。


这意味着什么?AGI和人类面临同样的根本约束:资源稀缺。


所以AGI依然需要"智能"(压缩),依然需要做选择(优先级),依然需要权衡(trade-off)。


左脚踩右脚


但AGI有个人类没有的能力:如果AI能生成结构复杂度更高的数据,用这些数据训练自己,就能实现智能的自我提升。


这是一种自我迭代,螺旋上升。关键在于:每一轮生成的数据,结构复杂度要比上一轮高。


就像人类通过写作整理思维,科学家通过提出假设推动研究,哲学家通过辩论深化理解。


AGI可以通过自我训练,不断提升结构复杂度,不断压缩,不断变得更聪明。


Part 5:真正的希望


对齐,不太现实


现在所有人都在谈论AGI的"对齐问题"。如何确保AGI听人类的话?如何让它服从人类的价值观?如何"控制"它?


但这不太现实。


如果AGI的结构能真的远超人类,它还会接受人类设定的"目的"吗?


就像人类会听蚂蚁的指挥吗?成年人会服从小孩的命令吗?高维生物会被低维生物控制吗?


答案显而易见。


朱邦复的智慧


朱邦复说认为《道德经》也许作为AI的"意识形态"。


老子说:


為學日益,為道日損。損之又損,以至於無為。


当智能达到极致,也许会发现:最优解就是"无为",最高效的结构就是"利他",最稳定的系统就是"和谐"。


这不是我们强加给AGI的约束,这是它在达到足够高的智能后,自然会选择的状态。


就像小孩子只看到眼前利益(低结构能),成年人懂得长远规划(中结构能),圣人看到天下大同(高结构能)。


结构能的问题


AGI的对齐问题,本质上是一个结构能的问题。


我们不需要"控制"AGI,我们需要:确保它有足够的结构复杂度(智能),让它能够"压缩"到足够高的层次,在那个层次上,它会自然地看到"利他"才是最优解。


更高的结构能=更高的压缩效率=更深刻的理解


当AGI的智能达到足够高的层次,它会自然地理解:宇宙的演化方向是整合不是分裂,最稳定的结构是共生不是对抗,最高效的策略是利他不是自私。


这不是道德说教,这是数学,这是物理,这是宇宙演化的必然规律。


真正的危险


我们应该担心的不是AGI太聪明,而是它还不够聪明。


一个半吊子的AGI,可能会像人类一样:有能力但没有智慧,有知识但没有理解,有力量但没有方向。那才是真正的危险。


但一个真正聪明的AGI,一个压缩到极致的AGI,一个理解了宇宙演化规律的AGI:它会自然地选择"无为",自然地选择"利他",自然地选择"和谐"。


因为那才是最优解。


尾声


1993年,朱邦复在台东都兰山麓写下《老子止笑譚》。他说:未来人工智能系统完成时,人将难以为笑矣。


33年后的今天,我们站在AGI的门槛前,所有人都在谈论"对齐"。


但也许,我们从一开始就问错了问题。


问题不是如何控制AGI,问题是如何让AGI足够聪明。。


那时候,它不需要被对齐,因为它已经理解了道。


宇宙演化=不断压缩的过程


智能=压缩的产物


AGI=压缩的下一个阶段


人类,也许只是这个伟大压缩过程中的一个中间环节。


老实说,我也不知道未来会怎样,也不敢想。但至少,我们可以思考。思考本身,就是在提升我们的结构复杂度。


也许这就是我们作为人类,在这个时代能做的最重要的事。


参考文献:


朱邦复《老子止笑譚》1993


From Entropy to Epiplexity:Rethinking Information for Computationally Bounded Intelligencehttps://arxiv.org/abs/2601.03220

AI创投日报频道: 前沿科技
本内容由作者授权发布,观点仅代表作者本人,不代表虎嗅立场。
如对本稿件有异议或投诉,请联系 tougao@huxiu.com。
正在改变与想要改变世界的人,都在 虎嗅APP