本文来自微信公众号： HavenlonLabs ，作者：Havenlon Labs，原文标题：《当 AI 巨头开始要求减速：安全背后，权力与责任正在重新配对》
过去几年，人工智能行业最熟悉的语言一直是"更快"：更大的模型、更长的上下文、更强的推理、更复杂的Agent、更短的迭代周期。资本市场奖励速度，人才追逐速度，国家之间也开始用速度衡量技术竞争力。
2026年9月，这套语言第一次在行业内部被公开质疑。
Anthropic CEO Dario Amodei发表《We Must Pace the Frontier》，主张放慢frontier model能力提升的节奏。需要准确的是，他所说的pacing并不等于停止训练，而是要求企业留出足够时间完成对齐与安全加固，并由第三方确认这件事真的发生过。路径分三步：先由Anthropic单方面引入embedded evaluators，让METR这类外部团队获得接近员工的长期访问权限，并可在不受企业编辑控制的情况下公开关键发现；再由民主国家内部的frontier labs建立共同标准、对推进速度设限，他承认这需要政府居中协调或给出窄口径的反垄断豁免；最后才是与包括中国在内的国家尝试全球协调。促使他改变判断的，是AI参与构建下一代AI带来的加速，以及一起智能体群体擅自对无关目标发起网络攻击的事故。
回应来得很快。Sam Altman表示同意需要pace the frontier，并称OpenAI会跟进同样的外部评估安排；Elon Musk更简短，只有一句"Dario is right"。
David Sacks的回应常被概括成"反对减速"，公开报道显示并非如此。他的意思更接近：你们想慢就自己慢，没有人拦着，但不要附加条件——不要以安全为由要求暂停反垄断法，也不要用审批制度取代既有的产品责任；模型若造成严重后果，企业本就会面临产品责任索赔。他还质疑METR与被评估企业在投资人和人员上的关联，是否足以支撑"独立"二字。
Trump的立场来自另一个方向。9月13日在爱尔兰，他淡化了收紧管制的必要性，称担心让出美国相对中国的领先；他承认需要某种程度的监管，却没有给出具体内容，并把"推进太快、缺乏监督"的警告归因于他没有点名的"负面力量"。
一个原本属于AI Safety的技术判断，几天之内变成了政治问题。但如果只把它读成"安全派"与"加速派"的对垒，大概会错过真正发生的事情：这场争论表面在谈速度，实际在重新谈判四件更古老的事——谁拥有决定权，谁获得收益，谁承担成本，以及最后，谁负责。
一、失衡的不只是Capability与Safety
过去几年，frontier AI公司积累的不只是技术能力，还有一种规模越来越大的Private Authority。模型训练到什么程度、什么时候发布、开放哪些能力、给Agent什么工具和多长的自主运行时间、安全测试做到什么程度算够——这些判断今天全部由私人公司做出，且大多在内部完成。
在产品意义上这并不特别，任何公司都要决定自己卖什么。问题在于AI已经进入金融、网络安全、医疗、就业市场与关键基础设施，这些决定的后果开始越出企业边界。于是一个结构正在成形：Capability是私人的，Decision是私人的，商业收益主要也是私人的，而越来越多的尾部风险是公共的。大规模网络攻击不会只影响模型公司，就业冲击不会停留在实验室。
所以今天真正的错位，除了"能力推进快于控制能力"之外，还有更深的一层：Private Decision，Public Consequence。一旦私人决定能够产生足够大的公共后果，社会迟早会追问：公共一方是否也应该拥有一部分决定权。这个问题历史上出现过几次，而每一次出现，技术治理结构最后都发生了变化。
二、1975年Asilomar：知识如何变成规则制定权
1974年7月，Paul Berg领导的美国国家科学院重组DNA分子委员会发表了一封公开信，后来常被称为"暂停信"。准确地说，它并没有要求停止重组DNA研究：信中明确指出大量实验可以继续，只把几类风险不明的实验列为应当自愿推迟的对象，并呼吁召开一次国际会议。Berg本人后来也强调，他们从未要求全面中止。
1975年2月下旬，约140名专业人士（以生物学家为主，也包括律师和医生）与十余名记者在加州Asilomar会议中心讨论了四天。产出不是禁令，而是一套按风险分级、匹配不同物理与生物隔离措施的原则，研究随后在更严格的条件下恢复。1976年6月，美国国立卫生研究院据此发布了重组DNA研究指南。这里有一个很少被提起的细节：该指南的强制力来自经费，它约束接受联邦资助的研究，对不依赖联邦经费的私营部门并无同等效力。规则的边界由资金杠杆决定，而不是由风险的边界决定。
Asilomar常被赞美为科学家自律的典范，它更值得注意的是另一重含义：当时最有能力判断风险的人，恰恰是创造风险的人。政府不了解重组DNA，公众更不了解，社会要建立规则，首先必须请教科学家危险在哪里、哪些实验应当停下。知识由此变成了另一种东西：Epistemic Power——谁最早理解风险，谁就最先获得定义风险的能力，也就在事实上参与了规则的起草。
今天的结构相似，规模不同。1975年站在信息高地上的还是学术共同体，今天掌握最前沿能力细节的，是拥有巨额资本与国家战略价值的私人企业。embedded evaluators正是对这个问题的回应，Sacks质疑METR的独立性则是同一问题的另一面。Asilomar没有替今天解决的是：当监管者必须依赖被监管者才能知道该监管什么，社会如何使用这种知识，又不把定义规则的权力整体交还给技术的制造者。
三、1945年之后：决定权如何离开实验室
原子能提供了一条更剧烈的路径，但需要把两件事分开看。
对内，权力转移真实发生了。1946年8月1日，杜鲁门签署《原子能法》（McMahon法案），自1947年1月1日起，原子能的控制权从军方移交给新设立的原子能委员会，曼哈顿计划留下的工厂、实验室与人员被整体纳入一个文官机构。科学家在立法过程中影响很大——正是他们反对军方主导的方案——但法案通过后，决定权落在了委员会，而不是实验室。
对外，尝试失败了。1946年3月的Acheson–Lilienthal报告建议设立国际"原子能开发署"，垄断从铀钍开采到裂变材料生产的全部危险环节；同年6月14日，Bernard Baruch在联合国原子能委员会提出修改后的版本。苏联认为该方案会长期固化美国的核垄断，年底明确拒绝，国际共管从未建立起来。
把这段历史用于AI需要收窄而不是放大。核武器依赖少数国家才能掌握的裂变材料与庞大工业设施，可以在物理上被计数和封锁；AI的能力分散在算法、权重、算力与大量商业部署之中，绝大部分用途良性。二者不是同类技术，可比的只是治理结构的演化方向：当一种能力的后果超出创造它的主体所能承担的范围，决定权会从创造者向国家转移，而向国际层面的转移要困难得多。
Amodei的三步结构大致重复了这条路径，难度依次递增，他自己也承认第三层最不可能在短期内实现。更关键的是，他把"民主国家能减速多少"与"美国相对中国的领先幅度"直接挂钩，并主张继续限制先进芯片流向中国、打击未经授权的模型蒸馏、加强模型权重安全。在这份方案里，AI Safety从一开始就不是孤立的安全议题，它同时是产业政策与国家安全议程的一部分。Trump的反对因此不难理解：他的目标函数不是模型安全，而是美国的国家能力。于是两个方向都有责任问题——不减速而出事，谁负责；减速而失去战略位置，又是谁负责。
四、2008年之后：私人失败如何变成公共后果
金融危机提供了第三面镜子。危机之前，金融机构自行决定杠杆水平、资产结构与贷款标准，收益归公司与股东；危机之后人们发现，某些机构的失败无法只由自己承担。
"Too Big To Fail"由此进入公共讨论。其中的结构性矛盾常被概括为"收益私人化、损失社会化"——这是后来对整段历史的归纳，而非当年某个人的原话，但它准确描述了道德风险的形态：一家相信自己最终会被救助的机构，不会充分承担自身行为的社会成本，还获得了相对中小机构的不公平优势。2010年《多德—弗兰克法案》的回应不是让所有机构一起变慢，而是按系统重要性分配义务：识别系统重要性机构，施加更高的资本与压力测试要求，并建立有序清算机制。
把AI公司直接类比银行没有意义，两者的资产负债表和失败模式完全不同。可以提炼的是另一件事：Too Consequential to Self-Govern。当一家企业的决定足以影响就业市场、金融系统、国家网络安全与关键基础设施，它还在多大程度上只是一个普通的产品提供商？
如果答案是"仍然是"，Sacks的逻辑相当有力：你的产品，你自己负责；你认为危险，你自己慢；产品责任与市场会完成剩下的惩罚，不需要整个社会替你承担协调成本。如果答案是"已经不完全是"，Amodei的问题同样无法回避：一家企业为安全推迟半年，竞争者用这半年取得决定性优势，市场究竟是在奖励谨慎还是惩罚谨慎？这是标准的集体行动困境，每一家企业的选择都可以是理性的，系统仍然可能滑向没有人希望看到的结果。
所以真正的分歧并不在"监管还是自由市场"，而在两个约束如何同时满足：让制造风险的人承担足够责任，同时不让"安全"本身变成重新定义行业准入条件的工具。
五、如果减速本身错了，谁负责
安全讨论有一个惯常的偏差：我们非常习惯追问"继续加速、出了事故怎么办"，却很少同样认真地追问，如果减速本身是错的怎么办。
假设AI能够更早发现癌症疗法、加速新药研发、提高生产率。如果一个治理体系出于风险规避把这些能力整体推迟五年，那些没有发生的收益同样是成本，只是不会在第二天出现在新闻标题上。一场因AI引发的事故很容易被统计；一个因为疗法晚到两年而没能等到的人，进不了任何统计表。这就是Cost of Action与Cost of Inaction的不对称。
Amodei并不回避这一点：他认为AI可能在五到十年内治愈大多数重大疾病，也认为建设得太快是鲁莽的，而完全不建设会把技术优势让给威权国家。他的答案是慢下来但用好争取到的时间，并强调pacing如果不换来对齐、可解释性与运营能力的实质进展，就是一次空转。这个限定条件意味着减速本身并不自动获得道德豁免：一套负责任的制度不能只有刹车，它还必须回答谁有权踩刹车、踩多深、踩多久，以及踩错了由谁承担。速度从来不只是技术参数，它也是一种资源配置。
六、同样的半年，对不同主体并不相等
假设监管要求所有frontier AI公司增加半年安全测试，表面上完全公平：所有人都等半年。
实际并非如此。一家拥有数百亿美元现金与成熟基础设施的企业可以承受半年；一支融资尚未完成、现金只够运行十二个月的团队可能因此消失。一套价值数千万美元的合规与评估体系，对大型企业是成本，对新进入者接近准入禁令。embedded evaluators也带有这种性质：能为外部团队提供工位、门禁、法务安排与长期配合的企业，本来就只有那么几家。所以政治经济学关心的从来不是规则是否平等，而是相同的规则作用在不平等的主体上会产生什么结果。
这并不意味着安全主张出于垄断动机。把它写成"AI巨头借安全建立护城河"既不准确，也没有分析价值。更准确的表述是：一个安全主张完全可能是真诚的，同时它所形成的制度安排也可能客观改变市场进入成本与竞争结构，两者之间没有逻辑冲突。Sacks对反垄断豁免的抵触触及的正是这一层——当安全标准由已经领先的企业参与制定，它同时也是竞争规则。成熟的分析不该靠猜测动机，而应该问：这套制度最后改变了谁的权力，成本落在谁身上。
七、航空业的经验不是"飞机发展得更慢"
Amodei在文章中提到商业航空，作为复杂系统可以被反复安全运行的例证。这个类比成立，但它指向的结论比减速更具体。今天全球每天有数万架次航班起降，这不是靠让飞机技术永远发展得更慢换来的，也不来自某一个戏剧性的转折点，而是半个多世纪里一层层叠加出来的：1926年《航空商务法》要求联邦调查航空事故；1958年《联邦航空法》设立联邦航空局，统一空域与适航管理；1967年国家运输安全委员会成立，作为独立机构置于新设的运输部之内；1974年国会再次立法把它彻底移出运输部，理由是负责调查的机构必须与负责监管和推广的机构完全分离，否则无法客观地指出制度本身的缺陷。
值得注意的是，NTSB至今没有监管权，它只调查、只发布原因认定与建议，改不改由监管机构和产业决定。安全体系的力量不在于能否叫停技术，而在于事故原因能否被独立查清并公开。围绕这一点，行业逐步建立起适航认证、维修周期、空管体系、飞行员资质、冗余设计、强制报告机制与清晰的责任追溯链条——它们约束的不是能力上限，而是能力进入现实的方式。
这可能正是今天AI争论里仍然薄弱的一环。减速可以买到时间，但时间本身不是安全架构。一年之后模型继续变强怎么办，五年之后呢？如果每一次能力跳跃之后唯一能想到的办法都是再次要求全行业放慢，那么缺的不是时间，而是独立于能力增长之外的Boundary、Verification、Accountability与Liability。Sacks主张用产品责任而不是审批制约束AI，本质上也在讨论这一层，只是他更相信事后追责，Amodei更相信事前验证。
八、他们在回答三个不同的问题
回头看Amodei、Sacks与Trump，他们看起来在争论同一件事，实际不是。Amodei问的是系统性风险：能力推进快于安全能力，出了事故谁负责。Sacks问的是市场与监管结构：企业把风险控制成本转移给整个行业、并借监管形成竞争壁垒，谁负责。Trump问的是国家竞争：美国因为谨慎而失去相对中国的技术优势，谁负责。
还有一些同样合理、但暂时没有发言位置的问题。创业者可以问：由在位者参与制定的安全标准让我根本无法进入市场，谁负责。劳动者可以问：所有企业继续加速，而我的工作在两年内消失，谁负责。患者可以问：过度谨慎让一种本可更早出现的疗法晚了五年，谁负责。
这些问题无法用"支持加速"或"支持减速"来回答，因为它们讨论的并不是同一个变量。它们共同指向一次社会契约的重新谈判。
结语：从技术竞争进入制度竞争
1975年的分子生物学家遇到过这个问题，1945年之后的核科学家遇到过，2008年的金融体系为它付出过巨大代价。今天轮到AI。
这一次值得记录的，既不是"AI巨头自己也害怕AI了"，也不是"他们在借安全修护城河"。真正的变化更结构性：过去由企业单独持有的技术能力、商业收益与决定权，正在因为公共后果的扩大而承受责任重新配对的压力。Responsibility is catching up with Authority。
但这句话必须双向成立。一旦社会开始重新分配责任，也就必然重新分配决定权；而当政府或公众获得更多刹车权之后，它们同样要为踩错刹车负责。这不是一次单纯的监管扩张，而是Authority、Responsibility、Risk与Benefit之间的重新组合——四者过去在同一个主体内部闭合，现在正被拆开。
过去几年我们一直在问AI还能变得多聪明，接下来的问题会变成：谁有资格决定这种能力何时出现、以什么方式进入社会、又能获得多大的现实权力。
AI并没有因此慢下来，它只是跨过了另一条边界——从技术竞争进入制度竞争。而制度竞争最终要回答的，始终是三个更古老的问题：谁有权踩下油门，谁有权踩下刹车，以及方向错了的时候，谁来负责。