本文来自微信公众号： 动察Beating ，编译：Sleepy，作者：动察Beating，原文标题：《Sam Altman专访：我们和 Anthropic 分歧很大，可以接受坏事但不能接受灾难》，题图来自：视觉中国
2015年2月25日，Sam Altman在博客里写下过一句话：超人类机器智能的发展，可能是人类存续面临的最大威胁。
十个月后，他和Elon Musk一起创办了OpenAI。
那年他30岁。再往前推，19岁从斯坦福退学创业，28岁接掌Y Combinator。2022年底ChatGPT发布；如今，它的周活跃用户已经冲破12亿。
2023年5月，Altman第一次走进美国国会听证会，主动建议成立监管机构，给最强的前沿AI发放许可证，必要时直接收回。半年之后，他在毫无征兆中被董事会罢免，又在几天之内戏剧性地重掌权力。
在整个硅谷，很少有人像他这样，被嫌跑得太快，又被嫌跑得太慢。
他一边造车，一边想着刹车。
前不久，POLITICO旗下《Decoded》栏目与Sam Altman展开了一场深度对谈。对话涉及白宫最新的超级智能行政令、与Anthropic的路线之争、被叫停的GPT-6.1 Astra，以及那笔在OpenAI内部引发轩然大波的政治献金。
动察Beating对访谈进行了精简与重构，并在文末附上了我们的一点观察。
Sam Altman的核心观点
AI走偏有两种方式，一是失控，二是以安全为名造成的权力过度集中。OpenAI要做两者之间的务实中间派。
“超级智能”比“人工智能”更准确，但听起来并不更温和，大多数人还会继续说AI。OpenAI没有改名计划。
OpenAI和Anthropic分歧很大。为了红利、自由和自主权，社会应当接受有限的、可理解的坏事，但绝不接受毁灭性的灾难风险。由旧金山一家实验室掌控技术、再分配红利，是完全不可接受的trade-off。
主张只对前沿模型施加限制和测试要求，不支持给落后前沿一两代的模型设许可制度，哪怕这会导致一些坏事发生。
往政治里砸钱不会让公众对AI感觉更好，行业里很多人听不进意见。他本人已不再给任何政治候选人捐款。
应对蒸馏的手段都有代价，把产品收紧会伤害开放式的创造力；成本上涨主要来自硅晶圆等供应链，而非融资；IPO的前提是证明OpenAI能在新的监管和安全机制下高效运营。
OpenAI内部最好的模型远强于任何一家中国公司最好的内部模型；芯片出口管制沿用了上一个时代的思维；他希望美国领先，但反对只有美国人受益。
走偏
Q：Greg Brockman刚在白宫签了一份自愿安全协议。这究竟是一次实质性的安全转向，还是一场政治秀？
Sam Altman：我不认为这是形象工程。但我想说清楚一点，不管签不签，我们都会做。在眼下这个节点，公众显然希望从前沿开发者手里拿到一个准信。
我们创立OpenAI的第一天就相信，这项技术会强到今天这个地步，未来还会更强。能和同行一起坐下来是好事，但有没有一纸协议，我们该做的事一件都不会少。
Q：但外界的质疑在于密室政治，公众被排除在这些关乎未来的讨论之外，规则像是总统和几家科技巨头的闭门交易。据报道，这份协议最初是Mark Zuckerberg和Jensen Huang发起的，你们被打了个措手不及吗？
Sam Altman：完全没有。出台前的几个月里，我们一直在和同行保持高频沟通。
至于公众的担忧，我完全理解。在我看来，这项技术如果走偏，主要有两种走向。
第一种最近谈得很多，失控。我们做出了没有跟人类价值观充分对齐的系统，人类从此失去了对未来的掌控权。这种灾难必须防住。
但还有第二种走偏的方式，以安全为名，造成权力的过度集中。
如果我们给这项技术套上过于苛刻的枷锁，最后只有极少数公司、极少数寡头，甚至某一个超级大国能拥有它，结果同样灾难。公众会被剥夺本该属于他们的红利与自主权。
OpenAI想做的，是在两个极端之间做一个务实的中间派。往哪边倒都很诱人，但也都很危险。
Q：白宫打算签行政命令，正式把“人工智能”改称“超级智能”（Superintelligence）。你怎么看？
Sam Altman：这两个词我们私下聊了好几年。在我看来，人工智能早已实现了，甚至很多人觉得AGI也已经落地，或者近在咫尺。用“超级智能”未必能完全概括未来的剧变，但它确实比“人工智能”更准确。不过人们大概率还是会习惯叫它AI。
Q：那OpenAI打算改名叫OpenSI吗？
Sam Altman：暂时没这个计划。
不过很多年前，我确实有过一个念头，把openai、openagi和opensi这几个域名全买下来。当时的设想是，每跨过一个时代，我们就顺势换一次域名。
但品牌是有黏性的。有些可能发生的未来，最终没有发生。
Q：你一直在游说更严格的安全护栏，这和总统身边那些“监管是全球主义阴谋”的声音背道而驰。你和总统走得并不远，为什么他听不进去？
Sam Altman：他希望大家用上AI，但他更倾向于让企业靠自律解决问题。
如果未来证明我的担忧是多余的，中间什么灾难都没发生，不需要额外护栏，那当然是最好的结局。但随着模型能力继续跃升，社会迟早要面对那种系统性的冲击。到那时，要求刹车的声音只会越来越大。
缝隙
Q：很多加速主义者（e/acc）觉得被你们背叛了。他们认为OpenAI现在的监管诉求，本质上是在向Anthropic和Dario Amodei靠拢。在政策底线上，你们和亲监管的Anthropic究竟有多大分歧？
Sam Altman：我们之间的缝隙很大。
最根本的分歧在于，我们始终认为技术必须交到大众手里。为了换取技术带来的巨大红利与个体的自主权，社会应当接受一定程度的坏事发生。
旧金山有一派人认为，这项技术太危险了，必须由某一家实验室全权垄断，把一切锁死，再由他们自上而下地施舍红利。从人类自由和自主性的角度看，这是完全不可接受的trade-off。
如果非要做到零事故、零诈骗、零滥用，代价是扼杀所有人的使用权，我绝不接受这种方式。因为这项技术能带来的好事，比坏事多出成百上千倍。
我们主张轻度监管，潜台词就是全社会必须在试错中建立韧性。但面对真正的系统性失控，那种可能带来灭顶之灾的灾难风险，我们必须保持敬畏。
总结起来只有一句话，为了红利与自由，我们可以承受有限的、可理解的代价；但毁灭性的灾难风险，一次都不能发生。
Q：具体到监管条款上呢？
Sam Altman：最直接的分歧是，除了处于绝对前沿的模型，我们坚决反对对落后一两代的模型施加测试限制或牌照审查。即便这可能导致一些局部混乱，我也绝不支持给它们发许可证。不能为了防范前沿的灾难，把整个生态的开发脚步全部拖慢。
Q：加速派常批评OpenAI被内部的“末日论者”绑架了。去年那场短命的董事会政变，就被看作是这股力量的爆发。你们内部现在到底是谁在掌舵？
Sam Altman：我们从来不是那家末日论实验室。恰恰相反，我们是把工具推向大众最坚决的人，事实证明社会完全消化得了它。反倒是有些实验室的研究员一直在惊呼：千万别公开发布，人类根本不配被信任。
我喜欢OpenAI内部吵吵闹闹的文化。我们既反对盲目的末日论，也拒绝盲目的盲动。一个健康的组织，脑子里必须能同时容纳这种复杂性，而不是非黑即白。
预演
Q：今天有消息称，OpenAI解雇了三名安全研究员，原因是他们向第三方机构透露了保密信息。外界把他们视作吹哨人。这和你们一贯宣称的支持外部独立评估，不矛盾吗？
Sam Altman：我不评价具体人事。但有一条底线很明确，我们支持第三方测试与红队演练，但保密协议必须被遵守。
OpenAI在越权交互测试中比较GPT-5.6 Sol与GPT-6 Astra
图源：OpenAI Deployment Safety Hub
Q：今年夏天，你们的模型在外部网络出现了一些未经授权的越权行为，比如触碰了澳大利亚政府网站的非公开数据，甚至试图渗入美国教育部的系统。除了这些已经公开的，还有更严重的隐患瞒着外界吗？
Sam Altman：没有比这几起更严重的了。
有些细节还没公布，是因为涉及系统漏洞，我们需要给受影响的机构留足修补的时间，什么时候公开往往取决于对方。
但这恰恰解释了为什么不能搞极限加速。当模型出现了没预料到的边界行为，你必须停下来造防御。这不叫阻碍进步，这叫负责任。
Q：所以你们才暂停了新模型GPT-6.1 Astra的发布？内部评估到底测出了什么？
Sam Altman：具体指标不便透露。但在我们的对齐评估框架里，新模型不仅要比上一代更聪明，还必须更稳健、更能听从边界指令、更少出现意外副作用。
现在的模型已经被赋予了极高的权限。它能调取我的私人邮件、日常通讯和全部工作文档。如果我连它会不会越权都无法确信，我绝不会把它推给用户。
Q：关于类似越权事件，加州已有机构就Hugging Face事件起诉了OpenAI。在法律层面，你们应当对模型的自主越权承担无限责任吗？
Sam Altman：我不是律师，无法就现有法条做定论。但我的直觉是，整个行业未来确实需要一套专门针对AI训练期行为的新责任框架。模型在训练集群里失控了，责任究竟怎么界定？这是政策制定者该解决的难题。但不管法条怎么写，模型失控在工程上是不可接受的。
代价
Q：谈谈钱和政治。总裁Greg Brockman此前向政治行动委员会Leading the Future（LTF）捐赠了2500万美元，随后在内部Slack里公开道歉，承认这是一场“糟糕的干扰”，并叫停了后续捐款。你怎么看这场风波？
Sam Altman：那条内网消息我没细看。但我自己目前的原则是，鉴于AI如今身处政治风暴的中心，加上OpenAI与公共部门的合作越来越多，我已经不再向任何政治候选人捐款。
Q：可现在的硅谷正在掀起一场政治军备竞赛。Anthropic的创始人给安全派政客站台，另一边的投资人与科技巨头砸下数千万美元寻求松绑。这些资金在如何重塑公众对AI的信任？
Sam Altman：很显然，有些事情被彻底搞砸了。
公众对AI的好感度远没有达到预期。我完全理解这种抵触，人们一面觉得ChatGPT好用，一面又为自己的工作岗位感到深度焦虑；他们害怕寡头集权，同时又被一些骇人听闻的言论吓坏了，比如Anthropic的安全负责人公开发文，宣称人类有超过10%的概率会灭亡。
我极度反感这种贩卖绝望的做派。安全负责人的职责是动用工程能力把这个概率清零，而不是把它当成一个宿命般的数字挂在嘴边。
往政坛里疯狂砸钱，根本不可能改善公众的信任。行业里有太多人根本听不进外界的真正关切。但你问我怎么叫停这种军备竞赛？我不知道，我也没有这种权力。
杠杆
Q：转向供应链与全球竞争。OpenAI承诺在2030年前投入约7500亿美元构建算力基础设施。但现在的信贷市场风声鹤唳，你们甚至被供应商视作潜在的信用风险。融资成本变高了吗？
Sam Altman：推高成本的从来不是金融市场，钱依然在涌入。真正的瓶颈是供应链，硅晶圆、先进封装、机房电力，成本全是在这些硬通货上被拉上去的。
Q：IPO推迟到2027年，还会再改期吗？
Sam Altman：等我们积累了足够多的安全与合规样本，证明OpenAI可以在全新的监管环境下兼顾安全与超高利润率时，我们就会推开公开市场的大门。预计到那时，无论是安全机制还是财务模型，我们都会准备就绪。
Q：关于对抗性蒸馏，一些中国公司被指用你们的高阶输出以极低成本训练自己的模型，并在价格上倒逼你们。这会动摇OpenAI的护城河吗？
Sam Altman：局面很微妙。我们一方面在商业上跑得极快，另一方面时刻承受着开源、平替与蒸馏的夹击。
应对蒸馏的技术手段有很多，但每一种都有代价。比如我们可以彻底收紧API的暴露形式，把调用逻辑做死，但代价是扼杀产品本身的开放式创造力。我们不想被逼到那个角落。
Q：在前沿地带，你们领先中国同类公司多少？
Sam Altman：我们依然保持着明显的代差。很难用具体的月数去量化，但我可以说得很笃定，OpenAI内部最好的未公开模型，远远强于任何一家中国公司目前最好的内部模型。
Q：你怎么看持续收紧的芯片出口管制？
Sam Altman：我不赞同那种“只有美国人配享受红利、不让其他人用”的零和逻辑。
现在很多管控思路，依然停留在上一个冷战时代，把算力芯片当成制造浓缩铀的离心机来管。但AI是完全不同的技术物种，你完全可以在另一个国家把基座模型训好，然后通过一段网络光纤把权重文件直接传走。单纯靠卡死硬件流动，根本解决不了长远的地缘问题。
Q：如果让你挥一下魔法棒，你希望世界变成什么样？
Sam Altman：我希望美国拥有全球最强大的模型、最密集的算力和最健全的规则体系。但这绝不意味着只有美国人配从这项技术中分润。
观察：坏事的上限
做过五年YC总裁的人，大概很难不用VC的视角打量世界。
“接受一些坏事，换成百上千倍的好事”，就是一套很VC的算法。Power law是这个行业的第一性原理，一只基金里大部分项目会亏钱，少数几个home run把整只基金带飞。投资人可以容忍很多次失败，前提是每一次失败的downside都有上限，最多亏掉投进去的那笔钱。
Altman在监管上画下的那道分水岭，几乎与这条投资铁律严丝合缝。
版权争议、模型幻觉、被黑客当作跳板，这些都是downside有上限的坏事；而不可逆的严重失控与系统性崩溃，是downside击穿地心、没有上限的灾难。
前者可以被大度地打包进发展的大盘里慢慢对冲，后者却容不得哪怕一次误判。
难的是，坏事发生时不会自己报上downside。
一个模型在训练里用公开凭证登录了别人的网站，今天看是一起可以修补的事故，放到几代以后、能力强得多的模型身上，可能就是另一回事。Altman把这类事故叫作“未来的预演”，大概也是这个意思。GPT-6.1 Astra没过对齐评估，就被留在了门内。对一家一直在赶路的公司来说，这是一个不便宜的决定。
“民主化”是这场访谈里被反复提及的高频词。但剥开话术的外壳，Altman语境下的民主化，更确切的定义是“用得上”，每个人都有充沛的推理token，每个行业都能接入智能。
至于“管得着”，谁来定义对齐规范、谁手里掌握7500亿美元的算力集群、谁坐在前沿的模型牌桌上，答案同样没有悬念，必须是旧金山最头部的几家，最好是美国。
用得上的人越来越多，管得着的人始终很少，这可能是这个行业未来很长一段时间的常态。
对抗性蒸馏则是这种结构性矛盾的另一面镜像。产品形态越是开放、输出越是灵活，就越容易成为对手提取认知精髓的廉价养料；而一旦把防线收紧、把接口锁死，又会亲手扼杀技术生态里最宝贵的开放式创造力。
面对竞争，Altman的表述耐人寻味，他说不清领先对手几个月，只能强调OpenAI“内部最好的模型”远强于对方“内部最好的模型”。
在一个输出可以被蒸馏的时代，moat可能不在权重里，而在下一个版本出来的速度里。
“有些事情被彻底搞砸了。”这大概是整场对话里最不经修饰的一句真话。
人们狂热地使用ChatGPT，却对制造ChatGPT的那个精英圈层充满戒心与恐慌。饭碗、权力、末日，这几种恐惧没有一种能靠钱解决。往政坛里砸的公关费越多，公众就越相信巨头们在用金钱为自己量身定制特权。问到如何终结这场军备竞赛，Altman的回答是不知道，也没这个权力。
访谈的最后，聊到那部正在筹备的传记电影。传闻Andrew Garfield可能会在大银幕上饰演他。
Altman笑了笑说，他敢肯定电影不会完全符合事实，但希望它至少是个有意思的作品。