本文来自微信公众号： 青野有枯荣 ，作者：青野Tsingyeh
近日，AI大厂围绕“主动减速”的呼吁再度升温，但这显然并不纯粹出于社会公义。在历史上的电力和无线电革命中，各国与厂商围绕“标准”的争斗始终是产业竞争的重要一环，而制定规则本身，即是标准竞争的关键内容。今日所见各家闭源大厂的呼吁，某种程度上隐约呈现出“减速卡特尔”的雏形，这真的能让激烈的竞争告一段落吗？值得怀疑的是，这种“减速卡特尔”赖以成立的基础在当前几乎不存在。
Anthropic有足够的动力，将其内部已经形成的工作流（尤其是第三方评估等）变成一套行业通用法则，进而固化自身的优势地位，也为其ARR增速的放缓找到一个说辞。与此同时，A家缺乏自有算力、较多依赖租赁算力的现实，也使其更倾向于主张限制算力竞争——这算是一种“斗争的扩大化策略”。更有趣的是O家对A家的呼应：它几乎不提算力约束（O家即将上线40万GPU，以巩固其算力优势），主要赞同的是引入第三方，而这一点其实无关痛痒。目前，A家引入的第三方（例如METR）与其自身有千丝万缕的联系，更像是内部演习中的“红军”，而非真正向公众负责的监督机构。对其他lab而言，成立类似机构并非难事，成本也相对可控。
问题在于第三方评估本身的业态：其激励机制并不可靠。这些机构多数以非营利组织的形式存在，费用也多由模型厂商承担。我们很容易联想到评级机构长期面临的公信力难题，而在AI领域，这个问题可能更为严重：下游客户几乎没有低成本的方式建立自有AI安全评估体系，即便有，评估也更多集中于自身业务安全，更缺乏为独立第三方持续付费的激励。
更进一步，从产业的宏观结构来看，AI减速更是个伪命题。AI革命同时混合了商业竞争和国家竞争。只要多家AI公司仍然齐头并进、身位差距不大，“减速卡特尔”就必然是脆弱的；而只要中国厂商不停下追赶的脚步，美国厂商也无法真正减速。
因而，依靠行业自主刹车显然不大现实。那么，外部的政府监管是否可能成为另一只刹车？
在目前阶段，监管面对的是一个两难局面：监管力度往往是社会共识的显化，若想严格地防患于未然，就总要面对“善战者无赫赫之功”、进而难以孚众的难题。更何况，监管过严又会抑制创新活力，欧洲就是一个典型的参照。中美两国在互联网时代取得的进展，与其相对宽松的监管环境不无关系。不过，互联网在兴起时尚未成为中美科技竞争的前沿战场，这一点和AI迥然不同，后者的产业链主权属性在当前已经充分显现出来。这也意味着，对全球主要当局者而言，AI监管过重的代价，往往比监管过轻的代价更为现实、直接。
比较中美两国目前的AI监管政策，可以看到两者的重点存在明显差异。美国已落地的法规更多集中在州层面，关注点主要落在研发过程：要求lab引入第三方评估、公布安全报告，监测灾难性风险，并强化透明度、事故报告和举报人保护等机制。显然，对美国立法者而言，这是一种“优等生的烦恼”——他们担忧的是模型能力的失控。
而中国的监管立法则是自上而下的。由网信办牵头的《人工智能安全治理框架》已经更新至3.0版本，框架中已经考虑到AI失控的极端风险，并提出“一键停机”等应对原则。不过，这一框架在中国的政治架构中尚不具有明确的强制性。从已经落地的政策看，中国仍然延续了大部分互联网监管思路，相比于介入lab的研发过程，监管重点更多落在输出结果，例如服务备案、生成内容标识等等。当然，中国监管的边界始终是隐性且动态的，即国家安全与社会稳定；而国家能力本身，也赋予了制度“紧急刹车”的能力。这一监管结构既继承了中国的制度惯习，也与中国当前的竞争身位有关：如果美国并未对其前沿闭源模型实施研发过程上的强监管，中国就没有主动收紧的必要。此外，在研发过程中嵌入非技术因素容易使得后者在制度惯性下快速扩大，这一点在历史上已有诸多经验，对中国而言，尤其需要审慎。
客观来说，人类能否监管一个比自身智能更高的东西，本身就存在困难。大模型是连接主义路径的产物，其思维过程缺乏直观的可解释性，研发与训练过程的透明度也相当有限，其思维链又被模型厂商刻意隐藏（或许也有反蒸馏的考虑）。这意味着，lab之外的力量越来越难以理解和监管模型，更多只能从结果倒推，监管天然偏向事后，很难覆盖事中与事前。一种理想状态是：让模型运行在人类的制度之下，而不是人类的智能之下。但问题在于：制度能够约束的仍然只是作为开发者的人类，未必约束得住已经跨过奇点的AI。限制AI递归自我改进（RSI）、加强人类审查和监管，届时或许都未必有效；人类最后的刹车，可能仍然只能是卡住硬件。
也因此，判断AI是否开始实质性减速，最终仍要看到CAPEX见顶和硬件需求下降。但在需求仍然蓬勃的背景下，下这个判断还为时过早。当前对硬件而言，模型迭代放缓更多只是拉长了新模型的验证与上线周期，而不是降低训练强度，对硬件需求的实质影响并不大。毕竟，战争并未结束；战线推进趋缓，与武器需求下降，基本是两回事。
那么，除去Scaling失效等内生因素，AI真正的外生减速风险——即政策的强行干预，会在何处出现？我认为，仍然需要一场被全球社会普遍认知的重大事故，才可能形成强监管共识，进而转化为政治压力，推动世界迎来这个拐点。例如福岛核事故之于核电发展（尽管各国对核电的反应程度仍有明显差异），又如金融危机之于金融监管。历史经验表明，监管是一种高度依赖共识的政治周期；但AI能力的演进则是抛物线式的，而非周期式的。两者之间存在一个危险的裂口。因而，我对人类掌控AI的前景相当谨慎。在我看来，人类可能最终只有一次机会：在AI引发巨大的问题之后，如果人类还能勉强解决它（或许届时还不得不借助AI本身），才可能真正建立起控制AI的机制。但这一场景或许纯属侥幸，因为它要求技术精英、政治精英与无数普通人在极短时间内联手，达成尽可能强的动员、泵出足以应对危机的资源。同时还要在灾后避免《沙丘》的结局：人类摒弃了AI，而转向了香料。
话虽如此，我们至今对这场危机将以何种形式出现仍毫无理解。它或许不会以“AI反叛”这种突发灾难的形式表现，而是AI逐步改变了人类社会的规范与共识，最终带来社会秩序的自身坍塌……无论如何，人类的未来将处在高度不确定且极为被动的状态中：直到AI危机破茧而出的那一刻，我们才会知道，这次挑战是否仍在人类社会的治理极限之内。