本文来自微信公众号： 文科生看AI 时代 ，作者：小兔子斯嘉丽
4个月前，微软和OpenAI从合同里拿走了“AGI”相关限制条款。4个月后，马斯克、Brockman和黄仁勋先后告诉世界：AGI来了。
一、5天里，接连3个人宣布AGI来了
9月6日，黄仁勋在X上发了一条帖子。大意是，GPT-6 Astra用了十万多套英伟达Grace Blackwell NVLink72训练。从ChatGPT到o1再到Astra，4年时间。AGI has arrived。祝贺OpenAI。接下来还有40万块GPU上线。
如果未来的人工智能史收录这条帖子，读者会看到一个很奇怪的结构。中间一句讨论人类走到了哪里，前后两句讨论英伟达卖出了多少算力，以及还准备部署多少算力。在黄仁勋的叙述里，AGI既是一项能力，也是一座需要芯片、机房、电力和资本共同搭起来的基础设施。
3天前，Astra发布简报时，OpenAI总裁Brockman说：欢迎来到AGI时代，就他个人而言，AGI已经到了。再往前两天，马斯克给了一个劳动市场标准：到2027年底，AI应该能够独立完成所有数字领域的工作，也就是所有无需亲手改变物理世界的任务。
4个月前，微软和OpenAI刚刚处理掉了一个拖了很多年的麻烦。2019年微软开始投资OpenAI以后，双方的合作协议里一直存在一个很特殊的设计：AGI不仅是OpenAI追求的技术目标，也会影响微软能拿到什么技术、这些权利能持续多久，以及双方怎么分钱。OpenAI给AGI的定义一直很宽泛：一个高度自主、能够在大多数具有经济价值的工作上超过人类的系统。但麻烦的问题是：谁来判断这个标准已经达到了？
2025年10月28日，双方重新修改协议，把这套规则写得更复杂，也更明确。OpenAI如果认为自己实现了AGI，可以提出宣布，但不能自己说了算，需要一个独立专家小组确认。AGI一旦被确认，会影响两类重要权利。微软对OpenAI已经形成的模型和产品，许可被延长到2032年，甚至包括AGI之后的模型。但微软对OpenAI更底层的研究成果和机密研究方法，只能保留到两个时间点中较早的那个：专家小组确认AGI，或者2030年。双方的收入分成也和AGI挂钩OpenAI继续向微软分成，直到专家小组确认AGI。
所以到2025年底，AGI什么时候成立，会影响微软还能接触哪些研究成果，也会影响部分经济利益什么时候终止。
2026年2月，两家公司还专门发了一份联合声明，确认AGI的定义和认定程序没有改变。两个月后，双方又改了一次合同。2026年4月27日的新协议规定，微软对OpenAI模型和产品的许可统一持续到2032年，并改为非独占。OpenAI向微软支付的收入分成统一持续到2030年，而且协议明确写明：这项收入分成与OpenAI的技术进展无关。
所以现在，2030年结束收入分成，2032年结束模型和产品许可，不再需要等谁宣布AGI。
微软和OpenAI不需要在合同里明确解决“AGI究竟是什么”这个问题了。
二、多出来的35.84分在哪里
Astra发布以后，ARC Prize让Astra参加ARC-AGI-3测试。这套测试和传统考试差别很大。模型进入一个陌生环境，只能看到格子、按钮、颜色和物体。系统不提供说明书，也不直接告诉模型任务目标。模型必须采取动作，观察环境变化，再根据反馈推断规则。模型需要一边行动，一边建立对环境的解释。
同一个GPT-6 Astra拿出了两份成绩。ARC Prize自己的Standard harness，加上max推理档位：62.71%；OpenAI提供的Provider Adapter（提供者适配器），98.55%。差35.84个百分点。
主要变化发生在模型周围。Standard harness允许Astra留下笔记。Astra可以把重要信息写下来，再把笔记带进下一步。Provider Adapter额外保存请求之间的推理状态，还会在上下文变长之后进行压缩。Astra因此可以继续使用此前形成的思路。前一种环境要求Astra主要依靠自己写下来的笔记维持连续性。后一种环境可以维持更多推理状态。
62分因此变成了98分。
在两种环境都完成的那批任务里，Provider Adapter（提供者适配器）整体运行速度还快了三倍多，token消耗减少接近一半。整个系统提高了记忆连续性和状态管理能力。
ARC Prize在设计ARC-AGI-3之前还做过另一项实验。研究人员找来大约500个人完成这些环境，同时记录每个人需要多少动作。研究人员当时认为，行动效率可能会长期保留为人与AI之间的一条边界。AI也许能够解题，但AI会反复试错。人类通常能用很少几步看懂局面。
Astra后来在Provider Adapter条件下打破了这个预期。96%的关卡中，Astra使用的动作数少于人类完成者的中位数。平均动作数少51.7%。所以62.71和98.55真正提出的问题已经变了。35.84分到底属于谁？
Astra的权重没有变化。Provider Adapter单独也无法完成任务。完整能力来自模型、记忆、状态管理和运行环境之间的组合。所以我们过去总问得一个问题：“这个模型有多聪明？”以后则要看模型使用厂商专门为它设计的上下文管理能力以后，整个系统能做到什么。评价对象正在从“模型能力”转向“系统能力”。
三、模型不是正确的AI测量单位
进化生物学里有一个很普通的概念，叫反应规范。同一个基因型可以在不同环境里形成不同表型。温度、营养、光照和社会环境都会改变生物最终呈现出来的性状。生物学家因此很少孤立地问“这个基因型的身高是多少”，研究者更关心同一个基因型在不同环境中会表现成什么样，并把这种变化画成一条曲线。生物学把这条曲线称为反应规范。
这个概念很适合解释Astra那35.84分。我们可以暂时把模型权重看成基因型，把harness、记忆、工具和上下文管理看成环境。这样一来，62.71和98.55就变成了同一套权重在两套系统条件下产生的两种能力表型。AI的测量单位也随之发生变化：过去的benchmark主要测模型能力，未来的benchmark可能越来越需要测系统能力。
现在的排行榜通常给一个模型一个数字。更完整的评测可能需要给同一个模型画一条能力曲线：没有外部记忆时能完成什么，拥有持续状态以后能完成什么，接入搜索以后表现怎样，增加代码执行以后又能做到什么，连续自主工作几个小时以后成功率又怎样变化。一列排行榜很方便，但一张能力生态图可能更接近真实落地能力。
人类自己的智能早就具有这种结构。1990年代，哲学家Andy Clark和David Chalmers提出“延展心智”。两个人问：人的心智到底在哪里结束？一个人长期依赖随身笔记本记录地址，每次需要信息时都稳定查阅，那么这本笔记在功能上和生物记忆究竟有多大区别？
后来，分布式认知研究把这个问题扩展到驾驶舱、船舶、实验室和组织。飞行员能够完成一次复杂飞行，依靠大脑，也依靠另一名机组成员、仪表、清单、自动驾驶和通信系统。整个驾驶舱共同完成认知任务。现代文明的结构更加明显。没有任何一个人的大脑装得下一架大型客机、一颗先进芯片或者一座现代城市需要的全部知识，人类把认知能力分散在文字、档案、学校、软件、制度和其他人身上。
语言帮助人类保存上下文，文字提供外部记忆，图书馆承担检索，计算器承担部分计算，公司和学校组织多人协作。从这个角度看，人类文明本身就像一套运行了几万年的Provider Adapter。人类参加真实世界的任务时，本来就会使用文字、搜索、计算器、同伴和几千年积累下来的知识。因此，当模型开始获得记忆和工具之后，“哪些能力属于模型自己”会越来越难回答。现实世界最终使用的从来都是一个完整认知系统。
1993年，Vernor Vinge发表那篇著名的“技术奇点”文章时，已经列出过几条通往超人智能的路线。单台超级机器只是其中一种可能。Vinge同时设想过大型计算机网络和用户共同形成超人智能，也设想过人机接口不断加深以后出现新的智能形态。33年以后，行业反而越来越执着于一个更窄的问题：哪一个模型最先达到AGI？
这种执着有很现实的原因。模型容易测量。模型有名字、版本号、发布日期、benchmark和System Card。网络、权限和关系很难测量。一家公司今天把模型接上邮箱，明天接上代码仓库，下个月接上客户数据库，再加入长期记忆和多个agent，没有哪个公司会为增加每一条连接专门举行发布会。
网络科学提供了另一个理解这件事的角度。一个网络里的节点可以保持原样，网络只需要不断增加连接。当连接达到某个临界区域，原本分散的小团块就可能形成一个贯穿整个系统的大型连通结构。单个节点的能力没有突变，整个网络却获得了新的性质。
AI系统可能出现类似的变化。一个模型最初只能回答问题，随后获得长期记忆、浏览器、代码执行能力、企业数据库、支付系统和真实世界操作权限。模型本身的能力也许只提高了一点，整个系统能够完成的闭环任务却会增加很多。真正重要的相变因此可能发生在权限和连接关系上。当系统接通完成一项长任务所需要的最后几个环节，模型分数甚至不需要发生明显变化，系统能力已经变了。
AGI因此可能通过连接逐渐形成。AI时代正在发生的变化，也许首先是一场测量单位的变化：过去人们把模型当成智能的主要单位，未来真正有意义的单位可能是一整套系统。
四、真正的AGI，也许就是人类开始离不开AI
进化史上还有一种变化，很适合解释人类和AI接下来可能形成的关系：共生会改变个体的边界。很多共生关系最初很松散，一个物种从另一个物种那里获得营养、保护或者运输，双方分开以后仍然能够生活。长期合作以后，双方会逐渐减少重复功能。一方稳定获得某种资源以后，继续维护同样能力的收益会降低。另一方也会沿着类似的方向发生变化。
合作持续足够长的时间，依赖就会出现。“有对方更方便”逐渐变成“离开对方无法正常生存”。线粒体代表了这种过程最极端的结果之一。线粒体的祖先曾经能够独立生活，后来与其他细胞形成越来越深的依赖，最终成为真核细胞的一部分。进化生物学把这类变化放在“个体性的重大转变”中讨论。原本彼此独立的单位经过长期合作，最后组成了一个新的、更高层级的个体。
这个视角会把AGI问题换一个方向。人们长期关心AI什么时候可以脱离人类独立完成工作，但社会还需要关注另一条线：人类组织什么时候开始无法脱离AI正常运行？
最开始，AI只是一个工具。公司关掉AI以后，员工只是工作得慢一些。随后，公司开始按照AI重新设计流程，初级岗位减少，员工不再需要掌握一部分基础知识，软件开始默认AI参与，一些人工流程因为成本太高逐渐退出。再往后，旧技能退化，岗位合并，备用流程越来越少。到那个阶段，整个组织已经很难按照过去的方法继续工作。
Bainbridge在1983年的《自动化的讽刺》里已经描述过这种过程的早期形态。机器越来越可靠，人类亲手操作的机会越来越少；操作越来越少，人工技能随之退化。机器真正失败的时候，系统会把最困难的问题交给一个长期缺少练习的人。这个现象通常被理解为自动化时代的监工困境，从进化的角度看，也可以理解为组织对技术形成依赖的过程。
这种依赖会受到很直接的经济力量推动。一个80%可靠的AI会促使企业保留大量人工备用能力，一个99.99%可靠的AI会改变企业的成本计算。很少有公司愿意为了万分之一的失败概率，长期养一整套几乎从不启用的人工流程。企业会削减冗余，员工会失去部分技能，组织结构也会围绕自动系统重新设计。AI监工因此可能只是共生关系从“可选工具”走向“基础能力”的中间阶段。
到了某个阶段，AGI测试的重要性甚至可能下降。一个模型从未通过任何公认的AGI门槛，但银行、医院、软件公司或者政府部门已经无法脱离相关系统正常运行，这套AI照样能够产生巨大的社会后果。另一个实验室模型通过所有AGI测试，却没有进入任何真实组织，社会影响反而很有限。
因此，门槛也许有两条：机器什么时候拥有替代人的能力，人类什么时候失去替代机器的能力。后一条线可能更隐蔽，因为没有任何实验室会举行发布会宣布：“从今天开始，我们已经离不开这套系统了。”这种变化只会一点点出现在招聘计划、工作流程、员工技能和成本表里。
五、我们可能连监管对象都认错了
1970年，控制论学者Roger Conant和W.Ross Ashby发表过一篇论文，题目叫《每一个好的调节器，都必须是所调节系统的模型》。论文讨论的是一个很基本的控制论原则：一个系统想要稳定控制另一个复杂系统，控制者必须对被控制对象的运行方式拥有足够准确的描述。温控器需要掌握温度，飞控系统需要掌握飞机状态，监管机构同样需要知道监管对象到底是什么。
这个原则放到AI时代，会带来一个问题：我们到底在监管什么？现有很多安全框架围绕模型组织。实验室训练模型，随后进行评测，制作System Card，判断风险等级，再决定部署方式。实验室也会在开发过程中持续重测能力。这套流程需要一个相对清楚的评估对象。
现实中的AI系统却越来越难用一个模型名字概括。同一套权重可以使用不同的推理预算，可以接入不同的记忆系统、工具和后端，也可以获得完全不同的权限。同一套权重进入不同公司的工作流以后，实际能力还会继续变化。模型权重只是整个系统中的一个组成部分。
今年8月，OpenAI更新GPT-Live的System Card。OpenAI发现，原先一套安全评估使用的后端配置和最终发布配置存在差异。团队重新运行评测以后，一部分指标出现了统计上显著的变化。模型名字没有改变，一处后端配置的差异已经足以让正式安全文件重新修改。
Astra的网络安全评估又把问题往前推了一步。Astra处理了一批知识截止日期之后才公开的真实漏洞。测试过程中，Astra利用了部分已知漏洞，还在攻击链里发现并使用了两个此前未知的零日漏洞。研究人员完成测试，漏洞进入披露流程，模型继续开发。能力发生了变化，历史却没有出现任何明显的分界线。
这些案例说明，监管者未来需要评估整套系统。监管问题会逐渐从“这个模型危险吗”扩展成更具体的一组问题：模型连接了哪些系统，能够保存多长时间的记忆，可以调用哪些工具，可以写入哪些数据库，拥有哪些权限，可以连续行动多久，谁能够发现错误，谁拥有停止系统的能力。
真实能力如果来自模型、记忆、工具、权限和组织流程的组合，安全评估也必须面对整个组合。现代社会本来就有处理渐进风险的工具。药品有临床试验，银行有压力测试，核工业有持续监测。这些制度都需要一个相对稳定的监管对象，而AI系统正在让监管对象本身不断变化。
传统事故通常比较容易确定物理边界。反应停是一种药，切尔诺贝利是一座反应堆。飞机事故发生以后，调查人员可以重新拼起残骸，寻找故障零件、操作错误和制度漏洞。未来一次严重的AI事故可能拥有完全不同的结构。模型、记忆系统、工具权限、自动工作流都产生了影响。一个长期依赖系统的人批准一次请求，另一个agent留下信息，后续系统继续使用这些信息。最后，整个系统共同造成结果。
事故调查到了那个时候，必须回答几个此前一直模糊的问题：系统从哪里开始，在哪里结束；哪些能力来自模型，哪些能力来自运行环境；谁掌握停止流程的权力，谁应该为结果负责。第一份真正具有约束力的“AGI定义”，甚至可能来自这样的调查。事故报告需要画出系统的真实边界，发布会和benchmark却没有这种强制性。
人类一直在等AGI到来的那一天。人们等一个模型，等一张榜单，等一家实验室正式宣布，等一个数字跨过某条线。明确日期能够把历史切成两半。前一天属于旧世界，后一天属于新世界。新世界来了之后，我们的制度可以修改规则，公司可以重新设计岗位，家庭也可以重新安排教育。
现实可能只会提供一连串微小变化。智能越来越像整套关系共同产生的能力。模型连接记忆，模型连接工具，机器进入员工的工作流程，组织对自动系统形成越来越深的依赖。每一次连接都有时间，每一次流程改造也有时间，但整套关系绝不会有一个统一的生日。
每一次变化单独看，都不够格成为历史。所有变化叠加以后，历史已经发生。那个日期大概不会叫“AGI诞生”。那个日期可能迫使所有人第一次认真回答另一个问题：我们创造出来的究竟是一个模型、一套系统，还是一个已经把人类也包括进去的新主体。