本文来自微信公众号： 每日天使 ，作者：每日天使
Demis Hassabis，DeepMind联合创始人兼CEO，Google DeepMind的掌舵人，正在领导人类历史上最雄心勃勃的技术项目之一——实现通用人工智能（AGI）。从2010年在伦敦创立DeepMind，到2014年被Google收购，再到2023年与Google Brain合并，Hassabis始终站在AI研究的最前沿。
在他的领导下，DeepMind取得了AlphaGo击败世界围棋冠军、AlphaFold破解蛋白质结构预测等突破性成就。2024年，AlphaFold的工作为他赢得了诺贝尔化学奖。目前，他还通过Isomorphic Labs致力于用AI革命性地改变药物发现过程。
在这篇访谈中，Hassabis与主持人深入探讨了AGI的定义与时间表、当前AI发展的瓶颈、Scaling Law的极限、DeepMind如何重回领先地位、模型商品化的趋势、开源的未来、后LLM时代、AI与药物发现、AI监管、就业影响、能源危机等关键议题。
对话全文
一、AGI定义：什么是通用人工智能？
主持人：Demis，很高兴今天能和你对话。我想从AGI开始。关于AGI的定义众说纷纭，你对此一直有很深入的思考。能否解释一下你今天是如何定义AGI的？
Demis Hassabis：我们对AGI的定义一直很一致：基本上是一个展现出人类心智所有认知能力的系统。这很重要，因为大脑是我们所知的宇宙中唯一证明通用智能是可能的存在。所以对我来说，这就是AGI应该达到的标杆。
主持人：这是最糟糕的问题——我们离AGI还有多远？每个人的说法都不一样，有些知名人物说可能早在2026年就能实现。
Demis Hassabis：我对时间表有一个概率分布。我想说，在未来5年内实现的可能性非常高。所以那并不遥远。
主持人：这比你想象的更近吗？随着时间推移有变化吗？
Demis Hassabis：并没有。实际上，有趣的是，我的联合创始人、首席科学家Shane Legg在2010年我们创立DeepMind时，经常写博客预测AGI何时会发生。要知道，2010年几乎没人在研究AI，大家都觉得AI是死胡同。但他那些博客还在网上，大家可以去查证。我们当时做了计算能力和算法进步的推算，预测大约需要20年，从我们开始算起。我认为我们基本在按计划推进。
二、发展瓶颈：什么在阻碍AI进步？
主持人：你今天看到的最大瓶颈是什么？在纪录片里你说你永远没有足够的算力。
Demis Hassabis：我认为算力是最大的瓶颈。不仅是因为扩展系统和模型的明显需求——你知道的，所谓的Scaling Law，就是不断构建越来越大、参数越来越多的架构，这样你会得到更智能的系统。但另一方面，你也需要大量算力来做实验。云端基本上就是我们的工作台。如果你有一个新的算法想法，你需要在一个合理的规模上测试它，否则当你把它放进主系统时，它可能不成立。所以如果你有很多研究人员有很多新想法，你就需要相当多的算力。
三、Scaling Law：我们已经触及天花板了吗？
主持人：你提到了Scaling Law。很多人说我们正在触及Scaling Law，开始看到平台效应。你觉得这是真的吗？
Demis Hassabis：不，我不这么认为。我觉得情况比这更微妙。当然，当领先公司都开始构建这些大语言模型时，每一代新系统都带来了巨大的性能提升，几乎像是性能翻倍。但在某个时刻，这种增长必然会放缓。所以它不会继续呈指数增长，但这并不意味着扩展现有系统就没有巨大回报。我们和其他前沿实验室都在这种算力扩展上获得了很大回报。所以我想说，回报仍然非常可观，虽然比最初开始扩展时要少一些。
四、AI现状：我们在哪些方面超前，哪些方面落后？
主持人：我们在哪些方面落后于你的预期？
Demis Hassabis：实际上，我认为在大多数领域我们都超前于我的预期。如果你想想视频模型，甚至是我们最新的系统如Genie，它们是交互式世界模型。我觉得如果你退后一步想想，这很不可思议。如果5到10年前给我看这些，我会相当惊讶。所以在大多数领域，我们都超前于领域的预期。但仍有一些重要的东西缺失，比如持续学习。这些系统在你完成训练、把它们放到世界上之后，就不再学习了。它们不太擅长进一步学习。
五、持续学习：为什么AI不能像人类一样持续学习？
主持人：请原谅我问一个直白而基础的问题：为什么我们今天没有持续学习？
Demis Hassabis：嗯，人们还没有完全搞清楚，所有领先实验室都在研究这个问题——如何将新学习整合到你花了数月训练的现有系统中。当然，大脑非常优雅地做到了这一点，可能通过睡眠强化学习。你知道，你白天的记忆会被重放，然后一些信息被优雅地整合到你的现有知识库中。也许我们需要类似的东西来将新信息与现有信息库结合起来。
六、DeepMind崛起：如何从落后到领先？
主持人：你提到了视频模型、媒体模型和图像模型。看起来DeepMind进步很快，已经赶上并超越了其他提供商。我以前用其他工具做研究，现在DeepMind是我的首选。2到3年前还不是这样。是什么导致了DeepMind的加速和进步？
Demis Hassabis：我们做了一些组织变革。我认为我们在Google和DeepMind一直拥有最深、最广的研究团队。如果你看看过去十年或更久，我想说现代AI产业背后约90%的突破都是由Google Brain、Google研究或DeepMind完成的。无论是AlphaGo和强化学习，还是Transformer，这些都是关键突破。所以我支持我们在未来做出那些突破，如果还有缺失的话。我认为我们基本上把公司各地的人才整合在一起，朝着一个方向推进。然后我们谈到了计算资源，这也关于整合我们所有的资源，这样我们可以构建最大的模型，而不是在公司里有两三个版本。所以我认为很大程度上是组装我们已经拥有的所有要素，然后以无情的专注和速度推进，几乎像一家创业公司一样，回到前沿并在许多领域领先。
主持人：你说如果有人要做突破，可能是我们。当你想到这一点时，持续学习是你最兴奋的下一个突破吗？
Demis Hassabis：我认为有很多东西缺失。有持续学习，我认为研究不同的记忆系统还有很多空间。目前我们有这些长上下文窗口，有点暴力，你把所有东西都放在里面。我认为那里有很多有趣的架构等待被发明。然后还有长期规划、分层规划。这些系统不太擅长长期规划，比如很多年以后。而我们用我们的心智可以做到。还有很多问题需要克服。也许最大的一个是连贯性。我有时称这些系统为"锯齿状智能"，因为它们在某些事情上真的很惊人，当你以某种方式提问时，但如果你稍微换一种方式提问，它们实际上可能在相当基础的事情上失败。通用智能不应该有这种锯齿状。
七、模型商品化：我们会看到模型能力趋同吗？
主持人：关于Scaling Law的平台期，每个人都在谈论模型的商品化。你认为我们会看到这一点，还是一到两家会持续领先？
Demis Hassabis：我觉得现在三到四家领先实验室——我们是其中之一——差距开始拉大。因为很多这些工具也帮助你构建下一代。比如编程工具、数学工具，而且从这些相同想法中挤出同样收益越来越难了。所以我认为那些有能力发明新算法想法的实验室，在未来几年会有更大优势，因为上一套想法已经被榨干了。
八、开源未来：AI开放会走向何方？
主持人：你多年来对很多研究非常开放，我们看到很多高质量的开放模型。你如何看待开放的未来？我有很多被投公司使用前沿模型来设定基准，然后用开放模型尽可能接近但更具成本效益。那个未来会是什么样子？
Demis Hassabis：我认为可能和今天看到的类似。我们是开放科学和开放模型的坚定支持者，我们做了很多贡献，从最早的Transformer到AlphaFold，这些都是我们向世界输出的，帮助研究社区。我们计划继续这样做，特别是在应用领域、科学领域应用AI，这当然是我的热情所在。但我认为你会越来越多地看到，开源模型可能比绝对前沿落后一步。通常开源社区需要大约6个月时间来重新实现和弄清楚那些想法是什么。但我们也在努力推进一套叫Gemma的开源模型，我们决心让它们成为同类中最好的。所以对于小型开发者、学者或创业公司初期，我认为它们非常适合，也适合边缘计算。我们对某些应用类型的开源模型非常感兴趣。
九、后LLM时代：LLM之后的世界会是什么样？
主持人：你如何看待后LLM时代？不同的人有不同的观点。你和Yann LeCun的观点就很不同。
Demis Hassabis：对我来说，我不认为……我在某些方面不同意Yann的观点。我认为可能有50%的概率还缺少一些东西，我们需要在maybe世界模型等方面取得突破。但我相当确信，我们已经看到这些基础模型有多成功，它们能做令人印象深刻的事情。我认为这不会消失。我们仍然看到Scaling Law的回报。所以我认为唯一的问题是，当你想到未来的AGI系统时，LLM基础模型会是关键组件，还是只是整个系统的一部分？所以我认为问题是还需要什么，而不是它会被取代。我认为会在这些基础模型之上构建，就像我们处理世界模型一样。
主持人：当我们想到5年后的未来，就像你说的AGI可能实现，那个世界会是什么样？
Demis Hassabis：从积极方面看，我一生都在为AGI而努力，我认为它将成为科学和医学的终极工具。在推进科学发现、找到疾病治疗方法方面，我认为我们需要那种技术。所以我希望5年后我们能进入一个新的科学发现黄金时代。我母亲患有多发性硬化症，所以这是我最兴奋的事情。我担心的是药物发现，把它通过所有试验的过程，知道需要十年时间我母亲才能真正受益。我们如何解决？我认为我们很快就会达到那个点。
主持人：首先，我们在AlphaFold项目做蛋白质折叠之后，分拆了一家公司叫Isomorphic Labs，它发展得非常好。那里的想法是我们专注于解决药物发现过程的其余部分，这涉及很多化学、设计化合物、检查毒性以及药物安全所需的所有不同属性。我认为我们会在未来5到10年内准备好整个药物设计引擎。然后你说得对，下一个问题是临床试验仍然需要很多年。但我认为AI可以在那里提供帮助，比如模拟人体代谢的部分，对患者进行分层以确保某些患者得到完全适合他们基因组构成的药物类型。所以我认为AI也能在那里帮忙。但真正的革命将是当十几个左右的AI药物通过整个流程。然后政府和监管机构看到这一点，他们有足够数据来回测那些模型的预测，也许未来10年后，我们可以真正信任模型的预测，实际上跳过一些步骤，也许动物测试不再需要，也许我们可以更快地增加剂量，因为你可以依赖这些模型。所以我认为要分两步走：先解决药物设计问题，然后看监管所需的时间长度。
十、AI监管：好的AI监管应该是什么样的？
主持人：说到监管，AI安全是个大话题。我在纪录片里看到，我觉得是霍金说的，我们必须做对，因为我们可能没有机会重来。你觉得对吗？
Demis Hassabis：是的，我认为这是对的。我认为这就是我们必须面对的风险。我担心的有两件事。一是这些系统被坏人滥用，它们可以被重新利用。这些是双重用途技术，可以用于科学和健康的惊人好事，但也可以被坏人用于有害目的。这是第一个问题。第二个是技术问题。确保这些系统随着变得更强大——不是今天的系统，而是一两年后当它们变得更有代理性、更自主时，当我们接近AGI时——能否保持在我们要的护栏内。我认为正确的监管可以在这里帮助，确保至少所有领先提供商都有最低标准，但理想情况下应该是国际标准。
主持人：什么是正确的监管？我在纪录片里听到你说，我认为我们需要更多全球协调，这让我担心，因为我们在这方面做得越来越糟。
Demis Hassabis：是的，当然。我的意思是，这个时机很疯狂，对吧？在这个最可能改变世界的技术出现时，同时国际体系却非常分裂。这并不理想，但我认为我们必须尽力至少制定一套最低标准，一些测试不良属性的基准。比如欺骗，你不应该构建能够欺骗的系统，因为那样它们可能会绕过其他保护措施。然后我想象，如果事情顺利，某种认证流程，几乎像是一个质量标志，表明这个模型有一定的保护措施和保证，因此消费者和公司可以安全地在它之上构建。我认为这应该是理想的方式。但它必须是国际性的，因为这些系统是跨境的。
十一、真相仲裁者：AI世界中谁应该是最终的真相仲裁者？
主持人：谁是最终的验证系统？作为一个媒体公司，我通过任何媒体平台时都不知道什么是真什么是假。我总是要问什么是真什么是假。谁是那个验证的仲裁者？
Demis Hassabis：嗯，我认为最终必须是政府，但能够做技术工作的技术机构可能是像AI安全研究所这样的。英国有一个非常好的，在苏纳克首相领导下成立，我认为做得非常好。美国也有一个，也许一些拥有最好研究的主要国家也应该有相应的机构，配备高质量的研究人员，能够实际评估和审计这些系统，对照某些基准，我喜欢独立检查它们是否达到正确的标准。
十二、AI安全：如果有一根魔杖，你会怎么解决AI安全？
主持人：如果我能给你一根只适用于AI安全的魔杖，你会实施什么计划？
Demis Hassabis：我认为我们需要某种国际机构，可能类似于原子能机构，也许AI安全研究所可以汇入其中，研究社区也必须参与，比如什么是正确的基准集来检查什么类型的特征、什么类型的能力。也许还有其他保护措施，比如让AI系统输出人类不可读的token是不理想的。某种机器语言我们无法理解。我认为那会引入新的漏洞。所以有很多这样的事情，我认为大多数领先实验室都会同意最好不要做。然后这些机构会测试这些东西，我认为这会给公众信心，学术界也可以参与，还有公民社会，这些将变得极其强大的系统已经被独立检查和审计。
十三、就业影响：这次对就业会不同吗？
主持人：你刚才说科学是最令人兴奋的领域之一。我必须问这个问题，因为这是最大的担忧之一——劳动力替代问题。我刚采访了马克·安德森，他说我是马克思主义者，因为提出这个问题。
Demis Hassabis：嗯，当然，过去每一次革命性技术都有很多工作岗位被颠覆。这是肯定的，我认为这肯定会发生。所以很多旧工作会消失或不再可行，但实际上历史表明，会有一整套新工作出现，可能是你以前无法想象的，而且是高质量、更高薪的。这是正常的过程。当然你必须非常小心说这次不同，我猜像马克这样的人声称的是，这和过去10次重大突破一样，比如互联网、移动互联网等。我确实认为这将比所有那些先前的技术突破都要大。我有时把AGI的到来量化为工业革命的10倍、速度的10倍。在十年内展开而不是一个世纪。我一直在读很多关于工业革命的书，有很多好书。它造成了巨大的动荡，也有很多进步。我们今天不会有现代医学。工业革命前儿童死亡率是40%。所以你不希望它没有发生，但理想情况下，这一次我们能比工业革命时更好地缓解一些负面影响。
主持人：我经常听到像你这样的精彩声音，对AI的到来速度感到非常兴奋。然后我试图让自己不要太乐观，想我应该更明智，人们告诉我，我们总是高估一年内能完成的事情，低估十年内能完成的事情。这里也是如此，还是实际上来得更快？
Demis Hassabis：不，我认为这仍然是事实。也许短期和长期的时间尺度都比其他技术更近。但我确实认为，literally今天，以及明年，AI有点被过度炒作了。在某些方面不可能再更炒作了。但另一方面，有趣的是，我仍然认为在10年左右的时间尺度上，这将被低估其革命性。所以即使在今天，仍然存在这种二分法。
主持人：关于劳动力市场的担忧，还有对收入不平等和财富集中到少数玩家手中的担忧。你如何看待这与工业革命评论的关系？
Demis Hassabis：我认为可能有不同的发展方式。也许养老基金应该投资所有大AI公司，确保每个人都有份，或者主权基金，也许每个国家都应该有主权财富基金来做这个。这是投资方式。我认为还需要思考，如果有巨大的生产力增益，但发生在狭窄的范围内，我们如何重新分配，如何让每个人都从这些巨大收益中受益，我可以想象各种方式，包括用额外的生产力增益提供基础设施等。
十四、能源危机：AI带来的能源危机会如何解决？
主持人：AI革命带来的能源危机如何解决？能源需求是前所未有的。我知道这是一个非常难的问题——从真的很难的问题到真的——但如何解决这种前所未有的新能源需求？
Demis Hassabis：嗯，我认为实际上AI在中长期内会为自己买单。就能源成本而言，你知道我们在做优化现有基础设施的项目，比如优化电网。我认为我们可能从国家电网中获得30-40%的效率提升。然后还有气候和天气建模，我们有世界上最好的天气建模系统。这帮助我们找出真正发生影响的地方来缓解。最后最激动人心的可能是像核聚变这样的新突破技术、新电池、超导体，我认为AI对帮助我们达到这些至关重要。然后我认为我们将处于人类从未有过的全新能源状况，然后当然会有助于气候和环境，最终也会帮助我们更便宜地进入太空，因为如果你有一个像核聚变这样令人难以置信的能源，你就有实际上无限的火箭燃料，因为你可以直接从海水中提取。
十五、留在英国：为什么选择伦敦而非硅谷？
主持人：我的问题是关于在英国。你在伦敦，我很自豪在英国。你肯定一直被推动或敦促搬到美国。为什么你留下了？
Demis Hassabis：嗯，我也应该问你这个问题。但我认为我在伦敦看到了，当我们创立DeepMind时，英国总的来说，欧洲在某种程度上，这里有令人难以置信的人才。我们世界上排名前十的大学中有三四所，剑桥、牛津、帝国理工、UCL这类大学。所以我们培养出真正令世界羡慕的惊人毕业生和博士生。我们有令人难以置信的科学家。我们有丰富的传统，从图灵、霍金到达尔文、牛顿。所以我们有这种令人难以置信的科学突破历史和伟大思想家。所以我觉得我们有所有要素，人才和伟大的工程师都在这里，只是还没有被凝聚成一个有抱负的创业公司想法、深度科技创业公司想法。我觉得这是可能的，我觉得这里竞争较少，我们甚至可以吸引来自欧洲顶尖大学的最佳人才。这就是DeepMind早期的样子。所以我认为这对我们来说是一个巨大的结构性优势。然后最后一点可能是，离硅谷有点远确实有劣势，你没有plugged into网络和八卦和最新趋势和氛围和所有这些东西。我们有点脱离，但我认为这非常有利于深入思考事情，更有原创性地思考。我认为这对深度科技很好，你不想被最新时尚分心。你知道这将是一个20年的使命，我们在DeepMind开始时就知道了。所以我认为远离那个漩涡有点好处。
十六、欧洲科技：欧洲会诞生万亿美金科技巨头吗？
主持人：可怕的问题。欧洲会有万亿美金公司吗？你知道美国人总是因为我们缺乏大公司而批评我们。
Demis Hassabis：还没有。我是说，Daniel Ek可能通过他的一家公司达到那里。Spotify、Healx，我认为这是两个不错的选择。我认为我们没有理由不能拥有。我将尝试通过Isomorphic实现，总部在这里，我认为有潜力成为那样。但我认为欧洲的劣势之一显然是，我们是较小市场的组合。所以我们必须克服这一点。也许这个EU Inc的东西可以是一个好的创新。
主持人：我又拿出魔杖了。这次应用于欧洲科技。你会做什么来实施增长心态？建立我们今天没有的万亿美金公司的能力？
Demis Hassabis：我认为在英国，这可能也适用于其他欧洲国家。我认为解锁养老基金可以投资什么，或者只是针对成长阶段，我认为我们在做创业想法和把它提升到一定水平方面很出色，就像我们对DeepMind做的那样。但如果你真的想跨越那个鸿沟成为全球万亿美金玩家，那么数十亿美金的轮次从哪里来？你可以真正挑战现有巨头的资本。我认为这在10年前我为DeepMind筹款时肯定缺失，我认为今天仍然缺失，只是那种雄心和资本市场能够支持的水平。
十七、初遇马斯克：第一次见面是什么情景？
主持人：快速问答环节。第一次见到埃隆·马斯克是什么情景？
Demis Hassabis：哦，是的，太棒了。是在Founders Fund的一个活动上，因为SpaceX和DeepMind都是Peter Thiel在Founders Fund的同一个投资组合的一部分，一个令人惊叹的投资组合。我想我们都被邀请了，我想我被邀请参加我的第一个投资组合会议，我想那可能是2011或2012年，非常早期。所以我们是那个投资组合中崭露头角的小东西，我有一个小的演讲环节，然后埃隆是重头戏，他做了主题演讲。然后我们之后见面了。我想埃隆说是在我们路过洗手间时什么的，我们打招呼，我们立刻就合得来，作为那种也许想法过于雄心勃勃的人，喜欢科幻，我真的很想参观他的火箭工厂。所以我在那次会议结束时试图获得SpaceX的邀请，我想他邀请了我，那是我们在SpaceX工厂的第二次见面。
十八、无人讨论：关于AI有什么大问题没人谈论？
主持人：你在想什么而你没有读到或看到任何人谈论的？
Demis Hassabis：我认为更多的是，我认为很多人在担心AGI的经济问题，我们之前讨论过，但我非常担心关于它的哲学问题，比如当它到来时，假设我们把技术做对了，假设我们把经济部分做对了，这两个都很难，然后有一个哲学问题：意义是什么？目的是什么？我们会发现意识是什么吗？作为人类意味着什么？我认为这是即将到来的，我认为我们需要一些伟大的新哲学家来帮助我们navigate那个。
十九、遗产：Demis希望被记住什么？
主持人：艰难的最后一个问题。有很多不同的方式可以描述你所做的。你最希望被记住什么，你的遗产是什么？
Demis Hassabis：我希望我的遗产能被记住为推进科学，构建为世界带来难以置信好处的技术，比如治愈可怕的疾病。