本文来自微信公众号： 文化纵横 ，作者：黄靖洋
【导读】10月8日，日本首相高市早苗在众议院明确表态，反对把“人工智能(AI)”改称“超级智能(SI)”，并称政府文件、学术论文早已普遍使用AI，很难进行替换。此番回应针对的，是同日特朗普在社交媒体上的宣告：凡继续使用“人工智能”、而不改用他力推的“超级智能”这一新称谓者，白宫将视其为“敌人”。但“超级智能”在学界本有特定含义，指能力全面超越人类的智能系统，而现在的AI并未达到此程度。有分析认为，特朗普此举改名在方便监管的同时，也是在反对如今美国国内盛行的“AI减速潮”。
近期，Anthropic的CEO阿莫迪呼吁放缓前沿大模型迭代速度，以应对潜在的AI安全风险，硅谷头部闭源AI实验室集体响应，引发了一波讨论AI减速的舆论热潮。但一边公开呼吁踩下刹车，一边持续加码算力与技术投入，这番表态究竟是出于对人类未来的真切担忧，还是商业竞争、监管博弈下的话语策略？减速的主张，现实中又究竟能不能落地？在最近一期“纵横说”播客节目中，香港中文大学（深圳）黄靖洋助理教授将追溯“减速论”的来龙去脉，辨析美国科技圈内各方的立场分歧，拆解美国两党、联邦与地方政府在AI监管上的撕裂现状。穿过加速、减速的话语迷雾，我们也试图去理清硅谷科技巨头们的“技术神学”和世界观，究竟长什么样，又是如何形成的。
本文为文化纵横原创访谈，仅代表作者观点，供诸君参考。
纵横说：AI领域最近最热闹的一个话题，就是美国的科技企业家纷纷提出来要给AI发展减速。一开始是一直以来打安全牌的Anthropic的CEO阿莫迪发了长文号召全行业减速，然后马斯克、奥特曼都表示了认同。您能不能先介绍一下阿莫迪的长文都提出了哪些观点、主张？跟他此前谈论AI安全问题时的观点有什么进一步的推进或者差异吗？
黄靖洋：阿莫迪的观点一向是一致的，包括山姆·奥特曼在内，他们这些人一直非常相信，AI会产生安全风险，而且人类可能很难控制它。但他们的逻辑是：AI需要由我们这样既懂技术、又道德高尚的人来掌控，所以我们应该更早掌握最先进的技术。这次不一样的地方在于，他不只是主张加大安全投入，还提出了一些具体方案。当然，他一直没有否认AI对人类、对民主和自由的促进作用，这篇文章里也仍然在讲这些。
不过，有两点让他提高了警惕。第一是现在很流行的“递归自我改进”，也就是RSI。简单说，AI系统可以用自己的能力改进自己，再从改进后的版本继续往下迭代，形成一个闭环。以前他们觉得，这只是一种理想中的状况，还不是实际发生的工业过程。现在估计是在训练中发现了一些棘手的事情，可能连自己的团队都很难理解的程度。所以他认为，需要适当限速，先研究对齐和安全方案，等找到比较好的办法，再进入下一步发展。
另一个事件，我记得《纵横说》一个月前也讨论过：在OpenAI的一次沙盒训练中，智能体逃逸到了Hugging Face，在那里发起集体攻击，智能体之间还会相互掩护。这让他觉得，模型已经有很强的能力，但研究者和开发者暂时没办法在短时间内做好对齐。他们担心，智能体可能逃逸出去，接管大量计算机和网络系统。
这是两个新的警讯。以前他主要谈安全投入，现在则提出了具体方案。首先，在训练过程中引入第三方核查机构，检查对齐和安全情况。其次，他认为民主国家需要先找到安全协作的办法，形成一定共识，在这个基础上再跟制度不同的国家谈合作。他们点名的主要就是中国。但他对中国的限制主张没有变，尤其是在算力上，仍然要谋求领先、拉开差距。包括先进芯片禁运、限制中国的模型的发展，他一直的立场是只有领先，才有更好的谈判资本，手里才有更好的牌。
总结起来有四点。第一，从加大安全投入，转向对能力的发展本身限速。第二，递归自我改进看上去已经在发生。第三，不再只是披露测试和安全方法，而是要求第三方进入训练场所，参与控制。第四，他还提出需要一定的反垄断豁免，让最先进的公司率先找到解决办法。这可能也是他最受硅谷其他人、特朗普以及白宫AI政策相关负责人批评的一点。
纵横说：阿莫迪这个人一直挺有争议性的。一方面，他的公司Anthropic可以说一直处在第一梯队；另一方面，他又一直在提醒——可能在很多人看来是在渲染——AI技术的风险，并且在谈论这些问题的时候带有很强的意识形态性。您怎么看阿莫迪这次发表长文的出发点，是在研发过程中确实发现有很大的风险，还是一种商业竞争策略，或者说试图影响政策制定的一种策略？
黄靖洋：我觉得这三点并不矛盾。至于他是不是确实发现了很大的风险，外界其实没办法验证。这也是反对者质疑他的一个角度：你没有披露判断标准和具体事实，并且用的案例主要还是OpenAI的智能体逃逸到Hugging Face那个事件。但外界没有看到证据说明真是技术不到位。也就是黄仁勋后来质疑的：这到底是个工程问题，还是达到AI已经超出了人类的管控的维度？目前没办法证明。至少从外部看，需要更多确凿的研究证据。
从商业竞争的角度理解，很多人对他的评价是，他想掌握对整个AI的定义权。他当中的逻辑是：我们最先进、能力最强，所以我们知道什么最不安全、什么风险最大，这件事就应该由我们主导。这里有两层商业考量。以前这些AI模型，尤其是实验室模型，在金融市场上讲的故事是能力，我们的模型解题能力很强，现在连一些艰深的数学题都能破解。现在，第一层变化是卖点从计算能力、解题能力，转向了安全能力：只有我知道什么最危险，也只有我有能力把控这种危险。
另一层考量跟上市有关。现在包括OpenAI在内，它们都在推迟上市。如果技术真是不可控，公司上市会有很大的风险。以前写招股书，可能会说风险来自中国的追赶导致技术不再领先，或者产业链、供应链的不稳定，以及电力、算力这些问题。现在，如果安全风险已经有了一定证据，或者在实践中很难解决，就必须写进招股书。怎么写也很重要。万一以后模型真的引发重大安全事件，比如金融市场瘫痪，或者网络攻击导致有害物质泄漏等等，公司都有可能需要承担很大的法律责任。所以，从合规和未来商业发展的角度看，主动提出安全问题，是一个比较好的选择。不过，也不能完全用商业考量来解释。因为引入第三方团队，其实也会约束自己。对公司上市来说，这套叙事也是一把双刃剑。
从实际效果看，抛出一个政策议题，可能更符合他们想要的结果。这也是它引起较大反弹的原因。他们希望获得一定的反垄断豁免，由领先的公司来制定安全规则。背后要争取的，是“减速”的定义权，以及什么才算安全模型的定义权。无论从商业竞争还是政策影响来看，这都非同寻常。
所以大卫·萨克斯会觉得，这个主张很虚伪：既然你们拥有最先进的模型，想停就自己停，没必要公开要求特许经营权和反垄断豁免。这实际上是在搞监管俘获。很多AI公司，尤其是非巨头公司，担心和反对的也是他们在抢夺AI安全的定义权和规则制定权。这就又回到我们经常讨论的争议：闭源模型与开源（开放权重）模型之间的竞争，以及背后涉及的政策游说。
纵横说：阿莫迪的长文发布后，硅谷科技行业、AI行业大致是什么反应呢？前面提到，马斯克和奥特曼都认同他的安全担忧，那行业内部有没有不同意见？
黄靖洋：硅谷对这些问题一直有不同意见，可以从两个层面看。第一个层面是，你相不相信现在的大语言模型，也就是LLM，是实现通用人工智能（AGI）的一个方向。如果不相信，对安全和风控就会有另外的主张。
第二个层面是，具体怎么看AI带来的风险。这里又可以分成三类。第一类是已经发生的现实伤害，不是模型训练本身的问题，而是社会层面的影响。比如深度伪造、版权、歧视，尤其是大家关心的就业问题。还有美国现在争论很多的数据中心落地问题，涉及州和地方上民众的现实利益。第二类是技术风险，主要是智能体和训练的安全：它会不会被误用，会不会大规模越狱，转移到其他服务器上发起攻击？会不会自行研究有杀伤力的武器，比如生物武器？这些属于技术层面。第三类是，人类会不会彻底丧失对AI的控制？这就是更高一层的“AI末日论”。
我们先谈不相信大语言模型是合适的AGI路线的人，比如Gary Marcus。他们长期怀疑LLM，但也不是主张不监管，而是认为：监管可以做，可这跟人类生死存亡没有关系。实验室把自己管好就行了，限制智能体的行为，并没有那么困难，没必要这么恐慌。另一个极端，是少数相信末日风险的人。他们认为，一旦跨过那道门槛，就会一发不可收拾，几乎没人能掌控，所以必须彻底停止，甚至永久禁止。这部分人又会跟美国政治中的一些进步派结合起来。
接下来就是阿莫迪这一派，主张限速。他们认为，模型能力已经跑在对齐工作前面。以前这个声音没那么大，这次比较惊人的是，几乎所有前沿实验室的商业领导人都接受了这个观点，开始呼吁集体限速。在这些领导人背后，还有公司里的首席科学家、计算科学家和AI技术负责人。他们更关心所谓超级智能体的对齐问题，觉得这件事非常难控制，训练中智能体的欺骗和脱轨行为越来越难管理。所以他们也支持在技术层面限速，先找到比较合理、可控的训练模式。这一派主要来自闭源模型公司。
做开源或开放权重模型的人则很反对。他们会说：少数闭源实验室试图把自身安全标准变成行业门槛，可与此同时，你们还在不断投入算力，搞能力竞赛。越是这样竞争，不就越难管住安全风险吗？开源这一派认为，每家公司都可以按照自己能保证安全的训练速度往前走，毕竟模型最终要面向市场。沙盒里做的安全实验、网络攻击实验，不会原样出现在商业市场上。一旦在市场上出现重大侵权或攻击行为，公司会受到市场的反噬。所以，没必要组成一个联盟来找方案。开放模型权重，通过分散权力的方式，同样可以获得安全能力。
纵横说上次节目也谈过，OpenAI智能体逃逸到Hugging Face的事件，最后反而是用了智谱的模型，才找到攻击证据。用闭源模型时，它把“查找攻击”理解成“让它去攻击”，反而调用不了。这就是一个很典型的案例。在开源这一派看来，风控主要靠事后披露、责任承担和用户选择，不能由领先模型的公司组成卡特尔、形成垄断，再来决定这些规则。他们觉得，这里面有消灭竞争的倾向。大家严格检查自己建立的安全体系就可以了。
还有一派觉得，现有法律法规和工程技术已经够用了。比如黄仁勋在播客里表达的就是这个观点：安全问题完全可以通过做好隔离、打好补丁、随时监控来解决，不需要额外的安全准则和技术联盟。不过，节目里他举的一些例子把两个层面的风险混在了一起。比如他谈及初级岗位并没有被替代，这是现实的社会影响，跟技术层面的安全不是同一回事。但他的核心观点仍然是，工程上完全有办法解决。
单看那次逃逸事件，其实就有很多前期处理办法。OpenAI给智能体出了没法解的题，又没有限制它们消耗的token，门也没关紧。打个比方，你让智能体参与一场极难的考试，但监考规则却没设严，同时又逼着它们一定要找到答案，那于是它们就推门出去，到别的地方作弊。所以，这到底是研究人员的技术不过关，或者规则、门槛和标准一开始就没设好，还是技术发展本身已经不可控呢？这正是争议的核心之一。
另外，像Palantir的CTO，就更接近白宫的国家竞争派。他们觉得，最大的风险来自于在AI竞争中输给中国、败于监管的限制。头部实验室拿“AI要灭绝人类”这种夸张叙事来要求反垄断豁免，他们是不接受的。还是那个观点：不需要夸大现有风险去扼杀竞争。因为真正的关键的问题是不能输给中国，所以必须在广泛竞争的环境下继续发展模型。
还有一部分人，在硅谷的声音比较小。他们也是技术出身，研究人工智能，但更偏重伦理。他们关心的是公平、劳工和反歧视等。他们会说，你们谈的那些东西太遥远，甚至有点属于技术神学的范畴了。我们更应该关心人，关心普通人面对AI冲击时的处境。
所以，不能只谈技术和训练，也要谈社会层面的变化。不同立场，对监管和安全风险的判断也不同。比如，沙盒模拟中智能体外溢，到底是不是必须限速的信号？还是像刚才那个比方说的，只是一场规则没设严的监考事故？再比如，安全标准是由训练模型的主体自己写，还是制定标准的人必须与训练主体分开？这又涉及闭源和开源的争议。
监管到底靠企业自愿、集体协议，还是国家介入，实行联邦许可？这些判断，也取决于你相不相信这条路线代表了人工智能的终极方向。还是说，它只是一个万亿规模的金融市场推出来的技术发展叙事？这会决定他们在AI安全和监管问题上站在哪个位置。但没有人说完全不要管，分歧在于怎么管、用什么方法管。
纵横说：自2022年爆发的这一波AI技术进步以来，硅谷最流行的思潮似乎一直是加速主义和技术乐观主义。我们听到的大多数声音，都是主张加速技术进步。一个很典型、也是中国听众比较熟悉的例子，就是马斯克，他一直对技术进步很乐观，这次却也认同阿莫迪的担忧。“纵横说”上次聊AI话题的时候还提到Kimi K3模型发布后，美国有人批评中国的开源道路是减速主义，可见当时他们对减速还是持批评态度的。为什么这么短的时间里，硅谷的舆论就从主张加速变成主张减速，来了个一百八十度的大转弯？
黄靖洋：我觉得这两种思潮在硅谷一直都存在，也一直是并行的。这次先有阿莫迪的文章，后来又有Jacob Coxon从Anthropic辞职，在X上发长文，谈自己对AI发展不可控的担忧，引起了很大共鸣。两件事叠在一起，让这次的声音特别大，尤其是硅谷精英和商业机构的领导人，都加入了限速的呼吁。但我一直觉得，加速的力量比减速强。只要AI仍然受资本化、金融化驱动，再加上中美竞争的背景，就很难真正减速，因为这里存在一个巨大的集体行动问题。
呼吁减速也不是第一次了。早期OpenAI做GPT-2的时候，就说模型太危险，不能发布。几年前，生命未来研究所也发起过暂停倡议，呼吁暂停GPT-4的进一步发展。很多硅谷人士签了名，马斯克也签了。但后来也有人把这理解为是有些机构因自身发展得不够快，就强调AI太可怕，要求大家一起暂停，好让自己追上。
我觉得这次也是类似。与其说他们想减速，不如说他们在想，怎样才能更好地加速。他们还是觉得AI的发展停不下来，但必须让“我们这些道德高尚的人”先到。我们先到了，才能拿出更好的安全方案。这有种技术神学的意味。在不少业内人士看来，AI像一种很难理解的外星生物，我们必须尽快走到前面，才知道怎么跟这个能力强大的外来物相处。打个比方，如果AI是上帝，或者某种外来之物，那领先企业的人觉得自己就是教皇或大祭司：我们更能跟它沟通，更理解它在想什么，也就更能解决它带来的问题。所以这次未必是一个很大的转弯。
变化比较大的，是这次出来呼吁的人。以前喊停的，往往是辛顿（Hinton）这样被称为“人工智能之父”的学者类人物；而这次主要是大厂、大实验室的首席科学家和CEO。但还是要看看他们实际在做什么。训练没有停，新模型也还在发布，推动加速的力量并没有消失。从政治上看，美国政府也不太愿意减速。当然，这只是我的观察，也可能不对，加速的整体趋势并没有太大变化。
纵横说：您提到白宫的态度，前几天有个很戏剧性的新闻：英伟达的黄仁勋在一个论坛上接到了特朗普的电话，特朗普很直接地批评了减速的观点。能不能顺着这个新闻，给大家梳理一下，美国政界对AI安全以及加速、减速的问题，都有哪些看法和主张？
黄靖洋：从白宫的角度看，加速完全是美国的国家战略。特朗普很反感包括地方反对数据中心，以及“AI会接管世界、毁灭人类”这些声音。特朗普的意思是：你们这么做，高兴的是中国。因为美国慢下来，中国就有机会追上。这里有两种安全意涵：国家安全（national security）和人工智能安全（AI safety）。中文都叫“安全”，英文却是两个词，背后有很大的冲突。
白宫现在能接受的，是企业自愿报备。大卫·萨克斯的立场很典型：出了事，自己报备、自己披露，但不要通过立法来减速、限制竞争。不要设立联邦层面的安全否决权，不要反垄断豁免，也不要拿第三方评估来限制竞争对手。你们可以自愿去做，但我们不会通过立法造出寡头。我们要的是一个更好的竞争环境，来发展美国的人工智能。
再看国会。民主党进步派，比如桑德斯，推动的就是很强硬的减速方案：永久禁止开发和部署人工超级智能，暂停先进AI的开发，对违规者施以重罚。他还希望中美两国共同讨论暂停的问题。他们认为，这场军备竞赛不是要赢，而是要结束。但这种声音应者寥寥。两党在AI问题上，还是以中间立场为主，而且AI要不要监管，并不是这次中期选举的主要议题，所以我觉得很难进入核心议程。中间偏监管、中间偏观望的人，两党都有。民主党可能偏监管的更多，共和党可能偏观望的更多。但在中美竞争这个大框架下，很少有人敢提出真正的管制和限速。所以美国两党的整体思路，仍然是如何规范加速，白宫则可能更加激进。
到了州一级，会不会有更多限制AI的措施？当然有，但各州也不统一。加州最能说明问题：民主党并不完全等于减速，等于限制AI发展。加州州长在2024年否决过一个比较严格的AI监管法案，里面包括训练前要有安全协议、第三方年度审查，以及强制关闭的设置。后来出台的法案就比较温和，主要强调算法和模型的透明度，以及出了事故要提交报告。其他一些法律，也主要针对我们刚才说的现实问题，比如面向儿童的聊天机器人、AI和社交媒体成瘾，而不是全面禁止前沿模型训练。在这一点上，他们非常谨慎。毕竟硅谷就在加州，前沿模型主要在这里发展，硅谷精英也在这里。所以我们会看到，即使在民主党执政、受进步主义影响很深的地方，对AI的管制也仍然很谨慎。
我最近看到一组数据，选民其实更希望国家进行安全审查，两党选民的比例也差不多，都希望国家出台政策限制AI。这跟很多政治人物、商业人物的主张不太一样。但无论是中期选举，还是未来的选举，AI风险和监管都不是最主要的议题。选民更关心油价、物价和经济发展。到了地方，跟AI相关的主要是数据中心：落地之后，会不会造成土地污染和其他环境问题？会不会推高水价、电价，增加生活成本？宏观的AI问题，选民虽然也关心，但它不是整个选举的主轴。
纵横说：我也感觉，民主党左翼或者说进步派，讨论AI时的议题范围更广一些。您刚才提到的就业、数据中心对资源环境的影响、电力占用，还有垄断问题，好像都是他们谈得更多。最近我们也看到，民主党的进步派——“民主社会主义者”这个阵营在地方选举中表现很强劲。您认为，长期来看，他们在技术政治上的愿景和担忧，会对美国AI行业的发展和政策制定产生多大影响？
黄靖洋：按我的观察，联邦层面的影响估计很弱。当然，这个观察也可能不对。进步派的议程很难进入联邦立法的主要讨论范围。对AI可能会有一些限制，但不会激进到桑德斯那种程度。尤其是在强调中美竞争的背景下，很难推动。两党有很强的共识：美国的AI技术必须领先中国，而且不能只领先几个月，得领先三五年。
地方层面，我觉得影响是有的，也已经出台了很多方案。特朗普为什么那么生气？一个重要原因就是数据中心落地受阻。无论民主党还是共和党主导的州，都出现了很大的社会反弹，大家担心它掠夺当地资源，尤其是电力和水资源。所以我觉得，最主要的影响还是在地方。针对AI现实社会影响的立法，现在已经能看到了，涉及就业、平台和AI公司的责任、青少年儿童的认知问题、深度伪造，等等。这些才是选民更能直接感受到的技术政治问题。所以，不用等到长远，相关立法现在就已经有很多了。
比如，有些州明确要求，企业如果因为技术进步裁员，就必须披露。也不能让员工只有一个“机器人老板”。裁员、评估或纪律处分，不能只依赖AI自动决策系统，要由人来复核；也不能利用系统预测员工是否会行使劳动权利，并因此惩罚他们。公职部门也有类似要求。像纽约州就立法规定，政府机构不能用AI自动系统替换雇员、转移他们的职责，或者降薪、改变特定工作安排。有些州对教育领域也有一些限制，比如教师不能只用AI打分，AI不能替代心理健康专业人员或社区大学教师，也不能单独用来做教师评价。这些规定都已经出现或正在推动了。最典型的当然还是数据中心，很多社会抗议和公民组织的行动，已经实际限制了数据中心在州、县一级的发展。
纵横说：对比之下，在中国，无论是科技企业家、工程师、开发者，还是普通民众，对AI安全，尤其是比较抽象的安全问题，似乎讨论得少一些，担忧也没那么强。大家可能更担心具体问题，比如AI会不会影响就业。而在美国，就像您刚才说的，一些科技企业家的论调甚至带有技术神学的意味。他们非常强调存在层面的安全风险，也就是AI会不会从根本上威胁整个人类社会的存续。据您的观察，中美两国对AI安全问题的关切存在这样的差异吗？
黄靖洋：我倒不认为，美国人就不关心跟自己息息相关的事情。一方面，我觉得AI对现实工作、社会福利的冲击，在美国似乎没有那么大。另一方面，我们看到的很多AI讨论，其实是在一个信息茧房里。我们接收到的有关美国AI信息，主要来自三个地方：硅谷、华尔街和华盛顿。看到的往往是精英的讨论，以及精英媒体、自媒体和播客的讨论。普通人的关注，在美国往往已经由州、市、县一级来回应。对于现实冲击，议会、媒体表达和社会监督，会推动一些新立法，去缓解AI对社会的影响。
很典型的例子，就是好莱坞的演员工会和编剧工会。在中国，大家都说影视行业进入寒冬。AI影片、AI编剧、AI动画出来后，连刚兴起的短剧市场都受到很大冲击，更不用说电影和其他影视市场。相比之下，美国通过演员、编剧工会的倡议，可以限制合成人、数字人参与影片，也可以限制AI编剧。也就是说，在影视产业链内部，就能对AI对行业的冲击施加一定限制。
另外，虽然美国分配很不公平、贫富差距很大，但企业利润率现在处于战后高点。所以在很多非AI行业，裁员或者用AI降本增效的压力，并没有那么大。现在看到的AI替代工作，更多发生在科技企业。因为AI的编程和技术开发能力在很多方面已经超过了人，但这也不等于职业就一定减少。科技公司可能裁掉一些技术开发人员，但同时又增加业务面和面向消费者的岗位。从整体就业看，新增工作确实在减少，尤其是所谓体面工作、白领工作。但裁员的压力没有那么大。在现有法律和社会保护机制下，AI对既有工作的冲击比较平缓。这可能就是我们觉得美国人不太关心这些问题的原因。有些担忧已经通过他们的社会运行机制，得到了一定缓解。
再回到精英层面。用现在流行的话说，AI本身的进步就体现了一种极致的优绩主义。它追求更强的解题能力，而且是不眠不休地解题。在这种氛围里，从业者很容易产生自负：只有我们能跟AI沟通，只有我们能决定未来的AI帝国怎么发展，扮演所谓“哲人王”的角色，引领人类和世界。他们很容易陷入这种迷思。
熟悉科幻片、超级英雄电影的人，应该对这个剧情不陌生。比如《复仇者联盟2》，钢铁侠拿到了非常强大的外星科技，觉得应该用它造福人类、保卫世界。结果在研究中，这个外星科技自行逃逸与他自己研发的人工智能结合，，创造出了无法控制的反派——奥创。最后，超级英雄们不得不跟自己创造的怪物斗争，又毁掉了一个国家。国家被毁以后，又出现了新的、仇恨超级英雄的反派。你看，这个故事跟他们现在的叙事高度吻合。我觉得很有意思：到头来，我们真的要把安全交给这些人吗？
我们确实需要找到一些机制来约束他们，让他们真正负起责任，而不是活在一套精英自负的妄想里。尤其是做闭源模型的人，会觉得AI安全必须集中管理。但做开源模型的人会说，通过开放权重和本地部署，在使用、部署的过程中也能获得安全能力，找到解决方案。到底应该走哪条路，仍然在争议中。尤其在金融化和中美竞争的背景下，这已经不只是技术上可不可行、伦理上怎么判断的问题，而是一场非常现实的博弈。
纵横说：您后面提到的这一点挺有意思。我之前也看到一些学者在研究，马斯克小时候看过哪些科幻小说、科幻片，这些科幻作品里的世界观、价值观是怎样的，有没有可能影响到他后来的价值观。
最后，还有一个值得注意的问题，是阿莫迪最近也提出美国应该跟中国在AI安全和治理方面推进一些国际合作。前面我们也提到他是很反华的，他在说这个话的同时，也强调还是要继续对中国进行芯片封锁，防止中国在AI领域赶上美国。但这么反华的一个人，现在也提出美国要跟中国进行一些合作。这是不是也预示着，未来在AI治理的国际合作方面确实可能会有一些突破？
黄靖洋：我觉得肯定有空间，但很难涉及那些带有强制约束的领域。核心问题是，以现在的中美关系，没办法核查：你怎么证明对方没有偷偷加速？军备控制或者核裁军，可以靠卫星和各种监测手段相互监督，这本身就是一种约束。但AI的训练掌握在公司手里，什么才算安全，模型发展怎么受到安全约束，都涉及怎样监管对方训练的问题。这又牵涉国家主权、经济主权和技术主权。即使达成协议，也很难落实，所以可能只能形成一些框架性的安排。
比如，建立基本的技术安全共同评估框架，通报恶意使用事件；通报智能体在实验、训练中出现异常行为，或者发生跟AI有关的重大网络安全事件；科学家之间也可以进项相互交流。这更像一种热线机制，或者框架性的共识，而且即使建起来，更多也还是依赖两国自愿。有些事情肯定能形成共识，比如AI不能用于大规模制造生物武器，或者发动超大规模网络攻击。但怎么把共识变成可以执行的协议，是有难度的。所以我觉得，合作可能更多还是自愿性的、对话性的。