本文来自微信公众号: Web3天空之城 ,作者:Web3天空之城,原文标题:《微软 CEO 纳德拉最新谈 AI 革命:从“Token 资本”到人类能动性的未来 | 全文+视频》
全局摘要
本次最新访谈中,微软董事长兼首席执行官Satya Nadella与Reid Hoffman深入探讨了人工智能对企业、社会及个人的深远影响。对话涵盖了从“Token资本”与“隐性知识”的资产重组,到“代理开发环境(ADE)”引发的工作范式变革。Nadella强调了平台公司建立信任的重要性,并分享了微软在自研芯片、AI安全管控(Agent 365)以及如何利用AI促进全球繁荣等方面的战略思考。
核心观点
核心竞争力重塑
:未来的经济由人力资本与“Token资本”共同塑造,企业必须防止“隐性知识”通过AI训练轨迹外泄。
爬坡机器逻辑
:AI时代的新“BASIC”是获取目标并通过强化奖励机制学习如何达成的“爬坡机器”。
工作形态变革
:工作正从简单的代码补全向长时间运行的自主“代理循环”转变,管理这些代理需要全新的“代理开发环境(ADE)”。
主权AI观
:国家主权的最好形式是确保其公司能在Token经济中蓬勃发展,利用AI放大自身的比较优势。
正和博弈与信任
:科技公司必须通过切实、惠及社区的行动来重塑社会信任,证明AI是在广义上改善人类处境。
01
诗歌、代码与知识的压缩
纳德拉对技术的理解往往带有文学色彩。在他看来,诗歌是人类体验的最佳表达方式,其本质是“压缩形式的最佳体现”。这种对压缩的痴迷,完美地映射到了他对AI和代码的认知中。
“我一直把诗歌与代码进行比较,诗歌是压缩形式的最佳体现。”纳德拉指出。在AI时代,大语言模型实际上就是对人类海量知识和隐性经验的极度压缩。他告诫企业领导者,不要试图用昂贵的前沿模型去解决平庸的问题,而应建立自己的“AI供应链”。“如果你是一名科技公司首席执行官,你就必须深入了解技术栈的构成。AI并非仅仅是一项技术,它是企业的未来。”
02
“爬坡机器”:定义AI时代的新基础
回顾微软50年前的起点——BASIC解释器,纳德拉为AI时代提出了一个新的对标概念:“爬坡机器(Hill Climbing Machine)”。
他认为,AI的核心价值在于获取目标、结果and评估标准,并通过数据和强化奖励机制,学习如何不断逼近并达成这些目标。“核心理念在于明确你深切关注的评估标准和目标,并清楚如何对其进行评估。”纳德拉解释道,开发者和企业的核心任务不再是编写具体的每一行指令,而是构建属于自己的“爬坡机器”。在这种范式下,“明确你想要训练模型所使用的数据集以及如何设置奖励机制,这才是下一阶段知识产权产生的关键所在”。
03
Token资本与隐性知识的护城河
在纳德拉的商业版图中,未来企业的资产负债表将发生根本性变化。他提出了“Token资本”的概念,认为其将与人力资本共同构成经济增长的双引擎。
他特别强调了“隐性知识”的安全性。企业在长期的运营中积累了独特的判断力、品味和操作流程,这些知识目前存在于员工的头脑和数字化协作的轨迹中。然而,AI模型能够通过这些轨迹提取隐性知识。纳德拉警告说:“现在的每家企业都需要关注那些实际上是在训练企业所保留的知识产权模型,而非将其泄露出去。一旦泄露,这就成了无法挽回的单向门”。他呼吁企业在受控的环境内让模型介入,将数据作为上下文,在不外泄知识的前提下实现价值的复合增长。
04
从IDE到ADE:代理时代的到来
随着GitHub Copilot等工具的进化,软件开发领域正率先经历一场社会变革:从“补全(Autocomplete)”进化到“代理(Agent)”。
纳德拉详细描述了这种转变:最初是简单的代码建议,接着是对话式交互,而现在则是“发射后不管”的自主代理循环。这种变革将迅速扩散到所有知识工作领域。“想象一下,如果你有200万个代理在后台运行,你的工作模式会发生什么变化?”
为了应对代理数量爆发带来的认知负荷,纳德拉提出了ADE(代理开发环境)的概念。这不再是一个简单的命令行窗口,而是一个允许人类对宏观增量进行微观引导的复杂UI。“我想要的不仅是能够遵循指令的模型,还要具备极高可引导性的模型。当你拥有这些时,你才能对它产生信任。”
05
治理与信任:Agent 365计划
当数以千万计的AI代理在企业内部运行时,管理和安全成为了首要挑战。纳德拉透露,微软正在推进Agent 365计划,旨在为这些智能体建立完整的可观测性和审计体系。
“我需要掌握信息,我需要建立清单。Agent必须是完全可检查、完全可审计的。”通过扩展身份验证系统Entra和安全保护系统Defender,微软试图为AI代理提供受控的身份和沙盒环境。他强调,不能仅仅依靠简单的护栏(分类器),而必须在运行时确保执行路径不偏离轨道,从而建立人类对AI的深度信任。
06
主权AI观:在正和博弈中重塑社会许可
针对目前各国对于“主权AI”的焦虑,纳德拉提出了一个务实的观点:主权的最好形式是确保本国经济体中的公司能在技术前沿蓬勃发展。
“对任何国家而言,最糟糕的事情莫过于以主权为名脱离技术前沿。”他认为,国家应该通过提高效率和利用AI放大自身的比较优势,而不是简单地建立数据防火墙。同时,纳德拉敏锐地察觉到了社会对AI的抵制情绪。他坦诚地表示,如果科技行业只谈论取代工作,就不可能获得社会许可。“现在是去做那些艰苦工作的时候了。必须确保数据中心的建设能让当地社区切实获益,这种利益必须是实实在在的行动,而非口头承诺”。
在纳德拉看来,AI革命不应是一场零和博弈,而是一个让“全球南方”实现追赶式增长、让全人类突破认知边界的机会。如果未来一切向好,他梦想着世界能以10%的GDP增速复合增长,但这取决于人类是否能克服有限理性。
完整访谈
天空之城全文整理|微软CEO Satya Nadella最新谈AI革命
诗歌、代码与AI的核心
Satya Nadella
所以,我认为我们在概念层面尚未真正理解并达成共识的是:未来的工作形态究竟会是什么样子?如果你是一名科技公司首席执行官,你就必须深入了解技术栈的构成。AI并非仅仅是一项技术,它是企业的未来。我的一条准则就是:不要用前沿模型去解决非前沿问题。我认为在AI时代,这将成为一切的核心,Reid。如果一年后我们坐在这里,而世界尚未彻底关注于“我的AI供应链是什么样”,我会感到非常惊讶。
Reid Hoffman
我非常高兴能介绍这一期特别的Possible节目,嘉宾是Microsoft董事长兼首席执行官Satya Nadella。Satya和我相识已久,这一话题也是此次人类AI革命的一部分。我认为这是一期非常值得发布的精彩节目。我们探讨了各类重要议题。Satya一如既往,优雅、缜密、睿智、全面,最重要的是,他对我们人工智能的未来充满人文关怀。这将是非常精彩的一集。
说实话,Satya,在这里拍摄的一大好处是,它让我想起了我们最初讨论Microsoft和LinkedIn的日子。没错,因为我们曾在Greylock办公室进行过一次非常非常棒的对话,所以能回到这里感觉真是太棒了。我想从一件我不确定有多少人了解并赞赏你的事情开始,那就是你家里藏有多少诗集。你能谈谈你对诗歌的喜爱,以及你最喜欢的诗人吗?你与诗歌之间有着怎样的联系?
Satya Nadella
我实际上是在人生的不同阶段接触到诗歌的。我记得在初中时,我们有一本标准版的英语诗集,我一直在试着读它。我一生都在寻找它,遗憾的是它已经绝版了。但它让我接触到了Shelley或Wordsworth,甚至还有像Sarojini Naidu这样用英语写作的印度作家。我不知道,也许是因为我的注意力跨度或其他原因,我天生就被诗歌所吸引,并乐在其中。我一直把它与代码进行比较,即诗歌是压缩形式的最佳体现,所以每当我感到无聊时,我就会去读诗。
实际上,我并不擅长深刻地解读它们。我从来没有研究过它。我并不是,怎么说呢,听起来这就是为什么我关于诗歌知识的声誉远远超过了我实际的诗歌知识水平。但我依然继续把诗歌作为人类体验的最佳表达方式,如果你从广义上把文学看作是捕捉人类体验的东西,甚至比历史捕捉得还要多。我认为诗歌是这种体验的浓缩形式。
Reid Hoffman
我完全同意。有没有哪位诗人是你反复阅读的?
Satya Nadella
如果要说对我内心触动最深的诗歌,那大概就是乌尔都语诗歌。那是因为我在印度的Hyderabad长大,乌尔都语在当地随处可见。一些乌尔都语诗人,无论是现代的还是17、18世纪的,都简直非同凡响。特别值得一提的是,有一位诗人名叫Ghalib,他非常杰出,或者像Faiz这样的现代诗人也是如此。此外,由于在Hyderabad长大,我深受Rumi的影响。事实上,我上的那所高中非常令人着迷。
事实上,我们当时学习了多种语言。其中大家公认的,显然有英语,还有作为国语的Hindi。我们还学习了Sanskrit,我想这基本就像这里的拉丁语一样。还有当地语言Telugu,这是我的母语。但我们也学习Urdu和Persian。事实上,当我们进行所谓的第二语言课程时,我的第二语言是Sanskrit。而且,我有同学会去学习Persian、Urdu、Telugu和Hindi,这真是太迷人了。
Reid Hoffman
在这些经历中,我产生了一些语言上的羡慕,因为我喜欢一个笑话:你知道怎么称呼一个会说三种语言的人吗?三语者;会说两种语言的呢?双语者;那只会说一种语言的人呢?美国人。不幸的是,我就是这个笑话的写照。
好的,我们刚刚结束了Build大会,那真是太棒了。让我们试着回顾一下历史。Microsoft的第一个产品是BASIC解释器。50年后,在这次Build大会上,我们围绕着其他人利用AI能够构建什么,勾勒出了一家公司的未来。那么,在AI时代,新的BASIC解释器是什么呢?
AI时代的新“BASIC”:爬坡机器
Satya Nadella
那是一个很棒的词。事实上,我认为这正是公司基因的核心,即其他人能构建什么,以及因此我们应该构建什么?这算是我们总是问自己的两个问题。在AI时代,对我而言,答案就是BASIC解释器即Hill Climbing Machine(爬坡机器),因为当你思考引入所有这些AI时,它究竟是什么?这本质上是获取你所拥有的目标、结果或评估,并通过使用数据和某种强化奖励机制进行学习,从而掌握如何达成这些目标的过程。
因此,整个会议的主题并非在于展示某种全新的前沿模型。其核心在于帮助每一位开发者、每一家企业——无论是AI原生初创公司还是大型企业——构建属于他们自己的爬坡机器,使他们能够在前沿领域开展业务,所以我认为关键就在于此。事实上,核心理念在于明确你深切关注的评估标准and目标,并清楚如何对其进行评估,从某种意义上说,这才是最重要的。并且要坚持这一点,这才是新的理念。因为其他一切环节都相当机械化,而明确你想要训练模型所使用的数据集以及如何设置奖励机制,这或许才是下一阶段知识产权产生的关键所在。
Reid Hoffman
好的,让我们深入探讨几个不同的领域,因为你我之间已经就Microsoft的战略进行过多次交流。其中一个问题是关于企业如何保持其自身数据的优势和完整性。而Microsoft是全球最适合处理这一问题的公司。那么,请谈谈企业应该如何思考这一问题:我们既需要自己的前沿智能,也需要保持对数据的控制权。
Token资本与隐性知识的保全
Satya Nadella
是的。我认为这正是问题的核心,未来的经济将由人力资本和所谓的“Token资本”共同塑造,这对Microsoft适用,对初创企业适用,对于任何拥有百年历史的银行也同样适用,这无关紧要。处理好人力资本与Token资本之间的相互作用,并使二者的回报实现复合增长。
因此,如果你以这种方式构建框架,那么最重要的事情之一就不再仅仅是将数据视为整体来看待。那么,企业或公司的隐性知识究竟是什么呢?那是你能够进行运营、做出判断并拥有独特品味的独特方式。这些全都是隐性知识,目前主要存在于人力资本中,以及部分数字化的人造物里。
因此,现在谈到AI时,模型在某种意义上能够通过人类的行为轨迹提取出这些隐性知识,并将其编码为模型中的一组权重。所以我认为,现在的每家企业都需要更加关注人类与其数字资产共同协作的交互过程,关注那些实际上是在训练企业所保留的知识产权模型,而非将其泄露出去的轨迹。因为一旦泄露,这就成了无法挽回的单向门。
从某种意义上说,你已经完成了任务,这正是独特之处。你可能确实已经为此投入了百年光阴,事实上,我们甚至不知道该如何准确表达这一点。没有人会在资产负债表中列出一项名为“隐性知识”的明细,但我们理所当然地认为,只要拥有人力资本就拥有了它。然而,我相信这种知识是可以外泄的,而且事实上它确实正在外泄。如果你观察一下模型公司的学习方式,本质上它们是在建立这些带有奖励机制的“训练场”,雇佣那些曾经在你们公司工作过的员工。这意味着,某种不该发生的事情正在发生。因此,这就是我们希望这种机制或范式发生根本性改变的原因:我们要欢迎模型介入,但它们应该在你所控制的机器内部进行爬坡式优化。你的数据就是你的上下文,你将数据喂给模型,并收集人类与企业内部智能体协作时产生的工作轨迹。通过这种方式,你可以形成一个持续的闭环,而不会让知识外泄。我认为这是最根本的运作方式。
Reid Hoffman
没错。事实上,与隐性知识相关的类比是——这也是你我在Microsoft董事会讨论过的话题——人工智能员工的未来角色究竟是什么?因为问题的一部分在于,我们不仅要提供那种用来增强人类工作效率的工具,这很好,或者说是提供某种AI公司,而且我们还要提供至少是专业雇员的服务。但其中的挑战在于,对于企业来说真正重要的事情之一是,你的员工体现了大量的隐性知识,比如如何做事,以及该做什么?你希望这些知识存在于其他公司,并被提供到其他地方吗?当谈到如何将AI甚至视为专业雇员来思考时,你和Microsoft对未来工作的看法是什么?
未来工作:从IDE转向ADE(代理开发环境)
Satya Nadella
我认为这很准确。所以,思考这个问题的方式,我有两种切入方式。让我们先采用一个类比,然后再回到这一点。如果有人在80年代初期来到我们面前说,你知道吗,将来会有40亿名打字员,他们每天早上醒来就会开始打字。我们会问,为了什么?这毫无意义,我们有一个打字员池。我们有一个精简的团队,我们对此觉得还可以。但问题在于我们创造了一种全新的事物,即知识工作,每个人都在进行打字和创造人工制品等工作。
因此,我认为我们尚未在共同理解的基础上准确把握未来工作模式的形态——比如以Microsoft为例,我们有20,000名员工,如果同时有200万或2000万个代理在循环运行,将会发生什么?在此过程中又会产生什么样的隐性知识?在代理之间、代理与人类之间流转的人工制品又会是什么样的?这一切都将在未来几年内逐渐展现。你可以在编程领域看到这种现象的早期形态,事实上,这正是观察这种社会变革的绝佳场所。
试想一下。我们最初使用传统的IDE,并让AI置身其中进行代码补全。这本身既实用又易于理解。我们一直都有拼写检查,Intellisense在VS Code中也存在了15年,而且它只会越来越好。然后我们想,与其跳出当前环境去浏览器里访问Stack Overflow进行搜索,不如把所有的编程知识都引入到聊天会话中。这一点也很好理解。你依然停留在IDE中,拥有了某种对话功能。接着我们说,现在你有了推理模型,还有了一些初步的Agent循环等等。所以你可以分配任务。于是我们有了Agent模式,所以你不止拥有聊天功能,还可以交给它一些小任务,并观察它完成。然后你可以采纳它所做的工作。接着你可以将其插入到代码中,诸如此类。
随后迎来了重大突破,即完全自主和代理循环(agentic loop)可以长时间运行,你真的可以做到“发射后不管”。我认为这种转变将发生在所有工作中。现在我们已经看到了这一趋势,即使在GitHub Copilot中,我们也有了Chat和Co-work,事实上,在Build大会上,我们还发布了名为Scout和Autopilot的功能。因此,编程领域正在发生的事情,同样会发生在知识工作中。
有趣的是,我们在Build大会上为GitHub推出的新功能之一叫作Canvas。因为实际情况是,随着我们都变得非常擅长使用这些编程代理,我们现在面临的最大挑战是,我同时打开了100个CLI会话,试图去操作这100个代理。现在,我管理这些代理的认知负荷太高了。试想一下,这是一个命令行中的线性聊天会话,而我有一百个这样的会话。所以你猜怎么着?我们现在又回到了IDE,所以我现在有了一个新的IDE。我们给它起了一个时髦的新名字。它被称为ADE,即代理开发环境(Agentic Development Environment)。这就是GitHub新应用的功能所在。
GitHub应用看起来像是一个收件箱,只不过这里面全是正在处理所有代码仓库的代理,它们允许我对宏观增量进行微观引导。我赋予了它们权限,但这实际上是一个完整的UI,让代理能与我交互,也能让我与代理交互。因此,我们推出了名为Canvas的GitHub新功能,例如,有时用Kanban看板可视化来处理PR非常有用,这对于代理和我之间的交互而言,比单纯的聊天会话高效得多。我认为这种创新正是未来工作方式改变的方向。事实上,对我而言,AI研究另一个迷人的方向是,模型将变得更加擅长保持既定方向,并理解人类在可引导性方面的偏好,因为这就是我想要的。事实上,我想要的不仅是能够遵循指令的模型,还要具备极高可引导性的模型。当你拥有这些时,你才能对它产生信任。
因此,新的模式将是这种AI资本与人力资本共同协作,在某种意义上创造出数字产物。
Reid Hoffman
你认为人们在构建企业级赋能架构的重要性方面,忽略了哪些关键点?其中一点显而易见,就是赋能人类的画布,比如80年代的相关概念等等。但是,例如在agentic中,安全性等概念具体指的是什么?
治理与安全:Agent 365计划
Satya Nadella
这是一个非常好的切入点。确实是一个很好的观点。事实上,正如你所提到,其中之一是体验层。这一点显然很重要。另一个我们之前提到的点是,我们需要将“爬山算法机器”这一概念进行实例化。但第三点是关于它的可管理性和安全性。
首先从可观测性开始。我们所做的首要工作之一,正如昨天讨论的那样,是一项名为Agent 365的计划。我需要掌握信息,我需要建立清单。我曾说,Microsoft可能存在2000万个Agent,我首先需要了解这些Agent是什么,它们在做什么,它们的推理轨迹是什么。它们必须是完全可检查、完全可审计的。顺便提一下,当Agent还具备运行代码并执行的能力时,你所处的执行代码环境,甚至包括文件系统访问和网络访问,都需要受到策略的管控。
因此,现在你需要赋予它们身份,提供沙盒环境,然后制定策略来管控它们。为此我们构建了整个名为Agent 365的系统,实际上,我们扩展了Entra以提供身份验证,扩展了Defender以确保安全性,扩展了Purview以便自动为所创建的数据添加标签,从而实现数据保护。安全控制、可管理性和可观测性是我们对这些智能体建立信心的关键。此外,我在开发者大会上提到的另一重点是,在构建these长时间运行的智能体时,这一点至关重要。如果我们回想一下,在编程语言中,我们一直都有用于理解程序可验证性的编程模型,而且是在运行时进行的。
因此,我们将这些长时间运行的智能体所具备的属性之一添加到了Foundry中,称为assertions(断言)。这使我们能够断言边界所在。因此,我们不再仅仅将护栏视为某种形式的分类器,现在你确实需要在执行过程中拥有确保执行路径不偏离轨道的能力。随着我们在平台、运行时、安全层、管理层和可观测性层方面的构建不断深入,如今涌现出了许多复杂的工程技术。
Reid Hoffman
那么我们来聊聊CEO的角色。Fortune最近形容你在Microsoft的AI团队中行事风格就像一家初创公司的CEO。但更广泛的问题是——因为我认为许多CEO都在向你寻求关于世界发展趋势的科技战略建议——你认为CEO们在AI领域应该做些什么?AI对许多公司而言意味着一种“二次创业”时刻,鉴于其本质,你对他们如何参与这一进程有什么建议?
CEO在AI时代的责任:深入技术栈
Satya Nadella
这是一个很好的问题,因为我一直在思考这一点。从某种意义上说,如果你是一名科技公司的CEO,你显然必须深入了解技术栈。身为科技公司的CEO,如果你对未来走向没有根本性的世界观,是不可能胜任的。而且要在观念成为共识之前就作出判断,你必须对公司的发展方向进行评判。所以,这算是我们行业中一种相当二元化的转型。如果CEO不能身先士卒、带头冲锋,并且意识到这些转型过程相当残酷,那么公司就没有希望。
但有趣的是,在过去,如果你不是科技公司的CEO,你只需要成为一名优秀的CEO即可,这意味着你需要在银行业、医疗保健业或其他任何领域表现卓越。而且你总能拥有优秀的合作伙伴、技术顾问等等。但现在我正在改变对此的先验认知,因为我注意到了一些正在发生的事情。我不认为其余的行业和首席执行官群体已经普遍意识到了这一点。我对此感到困惑,因为他们依然乐于与科技公司发布联合新闻稿,声称自己有了AI战略,并列举出他们构建的8个智能体所取得的一些成果。
但是这已经不再是单纯的技术层面了。这是公司的未来,这就像是说,我不了解我公司的人力资本,所以我认为,你现在必须深入理解什么是你的Token资本。你能回答这个问题吗?当你具体地说明:昨晚,基于我们所有运营部门的全部工作,我们将其转化为了一系列知识,而这些知识现已成为我Token资本的一部分。这可能是一些上下文信息。它可以是一种技能。它可以是模型中的某些权重。它不需要局限于某一样东西。但你必须能够清晰地将其识别为你所拥有、所控制、所创造的东西,并且你已经建立了一套系统来实现其价值的复合增长。
所以我认为这大概会是极其艰难的变革。所以这种变革不同于以往转向移动设备时代、个人电脑时代或云计算时代的情况;在那些时代,我所需要做的仅仅是拥有一个IT部门,懂得如何与各类供应商打交道,并采取一些精明举措来降低成本或提高效率。它应该从那里开始。我并不是说那不是切入点。但关键在于将会发生什么。当AI基本上掌握了身处你所在行业所需的一切知识时,你的行业结构会发生怎样的变化。这不仅仅是一项技术。这实际上是关于企业的一次根本性变革。
Reid Hoffman
我认为在思考企业本质时,你在领导Microsoft方面做得非常出色,其中的众多天才时刻和技能之一,就是通过收购与合作伙伴关系来实现目标,所以,无论是LinkedIn,显然这是我们非常关心的,还是GitHub、OpenAI等等,都是如此。我认为Microsoft在全球范围内引领的一个重要方面是,你如何在他人的生态系统中建立信任?在AI的世界里,这一点将变得极其重要,尤其是在企业发生转型的时候。那么,为了建立并维持这种信任,你学到了一些什么经验,或者说你在倡导哪些做法?
平台公司的信任哲学
Satya Nadella
这非常关键,因为从某种意义上说,我一直都在思考什么是长期稳定的,即便是从Microsoft的角度来看也是如此。长期稳定的基础在于,我们要成为一家工具和平台公司,我们的定义归根结底取决于在该平台上所创造的价值总量,这一价值应当远超平台自身所获取的收益。如果你能做到这一点,那么你就能建立信任,因为这样一来,客户和合作伙伴就会明白这不是一场零和博弈。
尤其是那种博弈论意义上的零和博弈,就是科技圈特别擅长的那种——我先补贴两三年,然后就把你干掉的这种游戏。所以我一直觉得,听着,那根本不是正确的思考方式。正确的思维方式是恪守原则:你是一家平台公司,你的生死存亡取决于你是否有能力在平台之上创造成功;当他们成功时,你自然也会成功。这就是构建双方信任与长期稳定性的等式,我认为在AI时代,这将是一切的核心。如果一年后我们坐在这里,而世界还没完全转向去关注“我的AI供应链是什么样的”、“它如何作为一个企业帮助我复利AI收益”,并将其视为我在这个世界中的独特价值,我会感到非常惊讶。因为我们知道,这些学习系统从定义上来说是没有边界的,但出于市场结构、社会制度及其他机制的考量,它们必须具备边界。
Reid Hoffman
是的。我们已经深入讨论了聊天机器人和代码,它们都取得了惊人的爆发式进展。在接下来的几年里,LLM的下一个前沿领域有哪些?
科学发现与“创始人模式”
Satya Nadella
谈到这一点,事实上,我知道你对此感到非常非常兴奋的事情之一,老实说,我为你感到高兴,但这也促使你审视自己把时间花在了哪里,我会让你自己谈谈这件事。但看到科学领域正在发生的一切,简直令人难以置信。事实上,你和Sid以及Manas一起创办的那家公司,就是一个很好的例子。我想说,这是编程和知识工作领域所发生情况的一个缩影。如果这种情况开始在科学领域发生,事实上,我甚至想说,我希望我们能反过来做。如果我们从科学领域一些能带来巨大社会效益的重大发现开始,那么社会对AI的许可度将会高得多,人们会真正认为这是一项非常有帮助的技术。所以我真的为你感到兴奋,Reid,因为你正在做的事情。显然,你已经投入了大量时间,也许你想谈谈这个。
Reid Hoffman
所以,这是我在过去一个月里意识到的事情之一,那就是我们看到了Manas的巨大进步,事实上,我们在内部对化学领域提出了“Move 37”的构想,因为我们看到的化学研究可能真的能够尝试攻克非常棘手的癌症以及其他疾病。而且,现在还处于非常早期的阶段,所以,处理这些标识符确实需要一些时间。但事实是我们已经开始看到了成果,比如我们已经拥有了一些世界上最顶尖的计算化学家。他们看过之后表示,这非常有意思,我们从未见过这种情况,这或许行得通。
所以,Sid和Ouzwa还有我一直在讨论这件事。我说,听着,我觉得在处理这件事的方式上,我需要回归创始人模式。因此,我需要能够专注于此。然后,我们这周谈话的一部分内容是,我在Microsoft董事会已经待了10年了。这是一种巨大的荣誉和荣幸,不仅仅是因为LinkedIn,显然还有OpenAI、GitHub以及其他许多相关事项。到年底的时候,我确实应该过渡到创始人模式了。所以,这就像是,而且我们以后也会一直共事。所以,是时候重新深入参与到公司业务中了。
Satya Nadella
首先,能邀请你加入Microsoft董事会并与你共事,通过所有合作以及LinkedIn进行交流,这真是我的荣幸。大家肯定会怀念你在Microsoft董事会的工作。但我知道我们依然会保持紧密联系。不过我也为你感到兴奋。当你提到要回归创始人模式时,这让我更加好奇你接下来会构建什么。因为正如你所言,我认为你抓住了重点,现在正是这些技术对社会产生更广泛影响的时刻,其影响程度是前所未有的。
Reid Hoffman
没错,确实如此。我们回到关于AI思维模式的问题上来吧。因为我认为,我大致上是这样看待这些事物的:你拥有了一种外星智能,一种不同版本的智能,它是为了高度模仿人类智能而构建的,这为我们创造了巨大的效用。但它的推理模式与我们并不相同,人们经常遇到这种情况,然后会觉得,这太可怕了。它的推理模式与我们并不相同,人们经常遇到这种情况,然后会觉得,这太可怕了。你会觉得,不,实际上,这需要你保持关注以确保对齐,但这也很棒,因为它能够实现新的事物。所以这也是其中一部分,比如我们正在进行的化学研究,人类此前从未发现这种化学反应,除了这种推理模式之外,还有哪些思考方式能够增强人类的能力呢?
认知覆盖率与Token效率
Satya Nadella
这是一个很好的切入点。我还没有深入思考过它是如何改进……如果我们讨论我们所进行的归纳法和演绎法,置身于这种与AI的认知循环中,确实非常迷人,不是吗?因为我的探索空间正在发生变化,就像在编程方面,我的一位同事向我介绍的最迷人的事情之一,就是他编写了一项新技能,而我已经在GitHub Copilot中使用了它。这被称为认知覆盖率,这太引人入胜了。他所做的是,每当一个智能体为我完成工作时,他会说,就像我们所说的测试覆盖率一样,我们现在有了这个被称为“认知覆盖率”的新概念,即我们人类将从它所做的事情中进行学习。
因此,它只是自动生成了一个测验。因为我确实在思考如何从中学习,在某种意义上,这与我通过演绎去理解一个智能体所作所为的能力是相匹配的。正如你所言,它基本上是在模仿,一方面这是一种模仿游戏,但这种模仿游戏确实创造了——我认为我能够演绎理解它的能力,可能正是我们要发展的最重要的核心人类技能之一。所以我对这种认知覆盖率感到非常着迷,也就是,我认为我们将拥有类似的东西,即智能体在工作时,一方面必须实现对齐,但另一方面,新颖之处在于我们需要了解我们是否已经从认知层面覆盖了AI所做的事情。
Reid Hoffman
是的。而且我认为这一点与你之前提到的关于Token资本and AI资本的观点相互印证,即现代人类知识工作者的技能组合的一部分在于,如何去规划AI画布编排的使用,同时也需要在某种资本配置平衡之内进行,因为我们已经观察到的一部分现象是,人们可能会在实际上毫无意义的方式上疯狂消耗大量Token。回想一下五角大楼那些糟糕的日子,花一百万美元买马桶盖那样。所以,将你的思考与认知能力相结合,再加上对token的管理。关于如何融合认知覆盖范围与token智能以放大成果,你认为这一技能涉及哪些核心问题?
Satya Nadella
这是一个很好的问题。事实上,我一直在思考,我认为人们必须深入研究的一件事是:在所谓的token充裕时代,哪些事物会变得更有价值?其一就是你提到的,即如何使用token变得极具价值。谁能弄明白如何为了达成现实世界中的重要成果而更高效地使用token,谁就能脱颖而出。也就是说,这正是关键所在:究竟什么是那个成果?我该如何衡量它?什么是评估准则?
事实上,我认为评估(evals)的核心就在这里,这非常令人着迷,尤其是在RL机制下,我们需要花费多少时间。如果你真的想要,你就需要建立评估准则和评估维度,或者说是评分维度,以便它们能够真正捕捉到那些只能由你来定义的卓越品味。因为如果你做到了这一点,那么你就可以实现token高效,事实上,这种token高效性的另一面是,我们在Build上展示的一些示例中提到,假设你是一家零售商或一家包装商品公司,你所做的事情之一就是处理与贸易促销相关的各种交易。
目前,你会从所有零售商那里收到这些索赔请求,并且有一套处理流程。这套系统由人类参与其中。你可以很容易地使用Agentic Workflow来实现自动化。你可能会说,我为此使用了一个Frontier Model。但不要在非前沿问题上使用Frontier Model。你并不是在尝试发现某种全新的材料科学。这是一个可重复的确定性工作流。但它能够从人类可能犯的所有错误、提出的主张等等中获益。因此,你确实需要在其中引入智能。但你可以使用像MAI 5B这样的模型,并利用踪迹在你的RLE中进行爬山算法优化,从而表现得更好,甚至超越前沿提示工程的效果。所以对我来说,这就是Token效率。我认为在现阶段,这种对系统局限性和系统特征的人类理解显得尤为重要,价值极高。
Reid Hoffman
我同意。我认为还有一点对人们来说很重要,需要去领会。如你所知,因为我们参与过很多此类对话,其他国家对于所谓的主权AI有很多担忧。鉴于我们刚才已经深入探讨了公司及其主权,例如公司本身、它们的信息和员工,我们为公司所做的这些事情,与国家应该如何思考主权问题之间,存在哪些相似之处?关于在某种程度上也参与到对AI未来的信任中?
国家主权AI与比较优势
Satya Nadella
这很有趣,因为我之所以真正转向关注公司,原因之一就是公司遍布世界各地,这里的好消息是,在某种意义上,即使是抽象思考主权的各国家,也可能犯下重大错误,最终削弱其目前自然拥有的比较优势——这种优势通过公司组建和繁荣发展所带来的商业活动体现出来。保护这一点才是主权的最好形式。有时我认为人们会想,要是能有防火墙,或者所有数据都在本地驻留,或者诸如此类就好了。我并不是说这些不是需要考虑的问题。但根本不涉及这些,关键在于确保你拥有一个经济体。
这意味着你需要拥有公司。这意味着这些公司必须在Token经济中蓬勃发展。这意味着它们需要有能力构建知识产权。因此,实际上,与外部公司建立合作伙伴关系以获得这种能力,我认为比突然在某些前沿领域落后更为重要,因此,我认为这再次成为了决策者必须思考的领域之一,毕竟基础设施的本质是——一端是电子,另一端是tokens。因此,你需要成为这些被称为数据中心的“电子转token机器”最廉价、最优质且最环保的生产者。每个国家都应该优先考虑这一点,当然,各国也应该优先考虑本国的半导体生产以及其他类似事项,这些都是非常合理的举措。
但除此之外,我认为最重要的是坚持Ricardo一贯正确的观点,即各国从定义上讲都有各自的比较优势,现在它们需要利用AI来放大这种优势。这意味着最好的做法是,无论是小企业、大型跨国公司还是公共部门,都能通过提高效率,使国家在各方面都保持在技术前沿。对任何国家而言,最糟糕的事情莫过于以主权为名脱离技术前沿,如果脱离了前沿,那将毫无意义,因为这意味着你正在落后。你必须参与其中,但同时,完全依赖单一的前沿模型也毫无意义,因为那样你就不具备主权了。解决之道在于能够说:不,我们将利用模型在自身经济体中,从企业到整体层面,实现逐级攀升。我认为,这就是问题的等式所在。
Reid Hoffman
实际上,我认为在Silicon领域的这一举措,对于各公司而言也是一个很好的切入点。我们正在构建Maia和Cobalt,但当然也与Nvidia和AMD保持着良好的合作关系。Microsoft自研Silicon的战略目标是什么?各公司或国家又能从中借鉴到什么?
微软的芯片战略:通用与专用的平衡
Satya Nadella
这很有意思。如果你仔细思考一下,这其实是一个很好的观察角度,因为如果你审视一下Nvidia、AMD或Intel所做的事情。他们构建的是通用技术,事实上,当我审视我们今天使用GPU的方式时,我们不仅在利用GPU进行模型训练和模型推理,还在加速其他工作负载。事实上,在Build大会上发布的一个令人兴奋的消息就是利用GPU进行加速,确切地说是利用GPU来加速我们的Fabric数据仓库。
事实上,随着Agentic工作负载的出现,我们对一切性能的需求都在增长。这正是因为GPU具备通用性,例如Nvidia的CUDA可以作为其之上的编程模型来加速各种工作负载。事实上,我们正在使用Nvidia的旧款芯片来加速,这在经济上也对我们非常有利。对于我们来说,明智的做法是拥有一支计算集群,并在其整个生命周期内持续使用,我们不仅用它处理尖端的AI任务,还在利用它使旧的工作负载实现更好的性能表现。这对Nvidia来说很好,对我们来说也很好。
但这也反映了新工作负载方面发生的变化,AI的新工作负载包括这些数据并行同步工作负载,即训练、推理,以及这些新的智能体运行时工作负载,它们具有非常不同的调用模式,差异巨大,并且高度持续。这种情况在三年前根本不存在,在任何规模下都没有。而现在它们已经具备了相当的规模。因此,我们有必要从一开始就进行思考。在我们还没开始制造半导体之前,我的数据中心建设、土木工程、冷却系统、机械系统,事实上,为了确保输入功率能以千瓦为单位,即数百千瓦直接传输到硅片上且没有任何损耗,我们甚至在尝试最小化数据中心的配电损耗,以便为这些大规模工作负载进行极致优化。这就是我们对Maia所做的事情,例如,Maia正在与我们的MAI模型以及OpenAI模型进行协同设计,以从中获得最佳性能。
我们正在设计Cobalt,这是我们基于ARM的计算核心,而且我们正在针对例如GitHub的所有智能体追踪记录来进行设计,编码智能体的调用模式与人类应用程序甚至异步人类应用程序有很大不同。因此,我们正在进行优化,以获取巨大的延迟性能提升以及诸如此类的成果。所以,我们将成为一家系统公司,在利用合作伙伴提供的通用技术以实现效用最大化的同时,持续针对我们所拥有的新型大规模工作负载进行优化。
顺便说一句,我认为这种灵活性确实非常好。这正是你之前的问题如此出色的原因,即国家应该考虑到这一点;如果你真的认为存在某种单一的解决方案,如果我说一切都依赖Maia,一切都依赖Cobalt,那对Microsoft来说可能并不是正确的做法。如果我们表示愿意接受外部创新,我们也会在内部进行创新,事实上我们会对一切进行基准测试,并坚持原则,最终实现更优的经济效益。
Reid Hoffman
因为创建能够带来人类繁荣的高效资本Token工厂是我们的目标,同时也要赋能更多公司去实现这一目标。那么,换个话题。通过与你的多次交流,我知道你非常关注的一个话题是现代时代的儿童问题,因为很明显,我们正在为导师、同事等群体开发产品。我们所有人都在共同探索的一件事是,作为一个行业,我们应该做些什么来引导儿童以正确的方式提升自同时也确保他们的安全?微软,或者说你自己,在思考如何造福下一代时,遵循着哪些原则?通过儿童造福人类的下一代?
下一代与AI安全:从焦虑到好奇
Satya Nadella
这是一个非常好的问题。关于儿童安全,显然我们必须采取一些重要举措,因此,我认为每当新的数字技术问世时,我们现在必须将其视为首要议题。在AI安全方面,涉及网络武器、生物武器以及对齐问题,但儿童安全同样至关重要。因此,我认为我们必须要确保解决当前这批所谓聊天机器人带来的一些挑战,尤其是它们与儿童之间的互动,这是我们需要非常留意的。我们要确保儿童不会失去应有的自主权,能够按照自己的意愿与这些技术互动,而不是被诱导。
但你提到的另一点也非常关键,那就是在一个充斥着海量Token的世界里,作为一名儿童究竟意味着什么?我认为这才是问题的关键,学习应该以什么样的方式发生?我们该如何启迪儿童?他们是否有能力去接触甚至进入一种全新的教学系统?因为我认为,即便以传统方式来看,我成长过程中在学习上所感受到的焦虑,实际上是资源匮乏、优质学习机会匮乏以及其他各种因素共同作用的产物,而这些因素在未来或许已不再适用。
[因此,我认为首要任务是创造一个学习环境,让学生,尤其是从幼年开始的孩子们,不会对数学、科学或其他任何学科产生恐惧心理。事实上,每个人天生就充满好奇心。只是与外界的接触,侵蚀了孩子们与生俱来的好奇心与自信。我们该如何进一步培养这种好奇心与自信?通过赋予他们探索的能力,并让他们知道,由于专业知识始终唾手可得,因此无需感到焦虑。关键在于你对这些专业知识的认知覆盖程度。那更显珍贵。如果我五岁时有人那样对我讲,我想我对待生活的态度可能会截然不同。那么,我们作为一个社会,该如何创造实现这一点的必要条件呢?我认为这大概会非常重要。
里德
我认为这也是——正如我与你深入交谈中所了解到的——作为科技行业,这是我们的责任之一,我们不能推卸这份责任。鉴于AI技术的普及性,我们必须对下一代人类负责。
萨提亚
没错。无论是那些非预期的后果——这是我们从第一天起就在思考的问题——还是构建安全护栏等等,都是如此。因此,新技术带来的巨大优势必须实现民主化。而且我认为还需要进行结构性变革,我不认为教育保持着一成不变,也不认为我们依然看重相同的资历。我不这么认为,必须有所改变。
里德
我们尚未有机会讨论但在此语境下非常自然的一件事,就是Pope Leo的通谕;我认为这实际上是教会方面展现出的卓越领导力的一部分。Pope Francis实际上在10到11年前就让我参与帮助他们进行探讨了。所以,教会在此议题上一直表现得非常积极主动。事实上,通谕中让我一点也不感到惊讶的部分,正是其所蕴含的人文主义精神,因为人们总以为,这关乎宗教,关乎你如何祈祷。但事实却是,至少我所接触过的教会部分,他们一直都是人文主义者。对于教皇的通谕,你有什么看法吗?能看到教皇对此发表意见。
道德哲学与繁荣的路径
萨提亚
据我所知,在这方面是有历史先例的,我相信在工业革命时期的教皇也曾就劳工状况、应采取的措施等问题发表过看法。因此,教皇能站出来捍卫我们所有人都能深切关心的议题,也就是人类的尊严和人类在AI时代的能动性,我认为这非常重要,我也很高兴他倡导了他认为重要的理念。
在我看来,这件事的另一个侧面是,如果我们审视一下那些被认为是利用技术进步创造巨大繁荣的最佳方式,那么社会将会是什么样子。西方的发展历程是相当令人难以置信的,事实上,有一本很棒的书,是Joel Mokyr和其他几位作者写的,书名大概是《Two Paths to Prosperity》,它基本上描述了中国和西方一千年的历史。我在这里进行概括,但从根本上讲,西方在如何利用科学革命、工业革命等方面的某些结构——文化和社会结构,确实需要社会组织方式发生真正的变革,以便能够从根本上利用这种新事物。
这在某种程度上确实非常宏大,事实上,这定义了现代世界。因此,我认为我们现在需要的是一种类似的汇聚,既来自道德哲学层面——我想教皇基本上就是说,这需要成为指引我们未来的道德哲学——也需要你将其与什么是市场、什么是民主,以及什么是科学/技术革命结合起来。因此,如果我们能以某种方式进入一个良性循环,使道德、科学突破、政治体制and市场相互促进,那么我们将拥有富足,并使众多利益相关者受益。
如果不这样做,我们将失去社会许可,所以我认为,那种将西方成功仅视为技术突破的狭隘理解,大概并非事实。这是一个不可思议的汇聚,由多种力量在良性循环中共同作用的结果。它也有非常糟糕的部分,我们知道这一点。所以你必须避免这些,也就是说,我认为这也是教皇本人在通谕中写到的一些内容,我觉得非常好,即去思考哪些是糟糕的部分,我们该如何避免重蹈覆辙?如何去倡导这种良性循环?我认为这被精妙地捕捉到了。
里德
我以为关注点在于如何始终以人为中心,这一点非常好。如何提升人的尊严?如何不仅关注富裕国家,而是关照整个世界,我认为,这在我们尝试思考这些问题时,是一个伟大的指路明灯。
萨提亚
我对此有深刻的思考。例如,我一直以来都是一个非常关心全球南方国家的人,在某种意义上,他们终于迎来了可以实现真正追赶式增长的时刻。所以我认为,在人工智能时代,这种趋同增长甚至面临放缓乃至发生逆转的真正危险。那么,全球架构又该如何呢?顺便说一句,如果有人坐在美国的Palo Alto,以为这一切对自己没有影响,那根本是不可能的,你要知道,我们共享着这颗星球,我们的命运远比我们所认为的更加紧密相连,绝不会因为身处远方而置身事外。
里德
好了,在进入快问快答环节之前的最后一个问题,正如你我都知道的那样,在美国以及在欧洲,都存在着强烈的针对人工智能的抵制情绪。现在,正如你所知,我尝试解决这一问题的方式之一,就是通过像《Super Agency》这样的书,试图传达:这是一个获得能动性的机会。转型过程会很艰难,但拥抱能动性和变革终究是必由之路,关键在于你要有前瞻性的思考,并主动积极地去引导它。这样它就能发挥巨大的助益。你认为我们应该如何帮助美国人民以及西方世界去理解为什么拥抱AI实际上更为重要?这并不是说这种抵制情绪中不存在真正的问题。显然,工作转型以及其他相关事项都将是现实存在的问题。但我们该如何帮助人们认识到,这可能是他们未来至关重要的一部分?
社会许可与正和博弈
萨提亚
我想,至少我现在得出的结论是,需要有切实、实用且广为人知的成果来证明一切。因为我认为已经发生的情况是——坦率地说,即便是在我们行业内部,或者说我们谈论它的方式上——当你公开宣称知识工作者的所有经济机会都将消失,或者白领工作将被取代,然后在接下来的话语中又说你很兴奋能构建这些技术时,为什么还会有人希望你成功呢?我不希望你成功,这在社会层面根本讲不通。所以我现在觉得,当有人在大学毕业典礼上因宣扬AI而被喝倒彩时,这意味着我们已经越过了信任的临界点,人们不再相信我们了。
这是理所当然的。那么,我们到底需要做什么?现在是去做那些艰苦工作的时候了。真正的难点在于,如果你正在建设一个数据中心,必须确保当地社区认可该数据中心对他们大有裨益。这对他们的税基、社区服务、房地产价值、学校以及用水等方面都有好处,还有电价。这绝不能仅仅停留在口头上,必须是实实在在的行动,这就是我们获得社会许可的方式。
对于就业问题,我也持同样观点。我们不能仅仅抽象地谈论“劳动总量谬误”,认为总会有新工作产生。那么,具体是什么样的新工作呢?这些新工作的薪资水平如何?我该如何去应聘、如何进行技能培训,以及如何真正开始创办一家新公司等等,我认为,除非我们真正明确那个我们已经深入探讨过的“第三事物”。每家企业都需要参与到前沿生态系统中。这不仅仅是说,我只是某个基础模型的纯数据输入方。这简直是在谈论主权和尊严的丧失,对国家、社区和公司而言,这两者在同时消逝,所以我认为我们必须彻底转变观念,承认这是一种正和博弈。
事实上,这些正是该技术所带来的一些挑战。我们将积极地去应对它。我们可以阐明其切实可见的益处。在这方面,你和其他人在Manas所做的工作也将非常有帮助,因为世界需要更多的证据来证明,这项技术终究是在广义而非狭义上改善人类在社会中的处境。
里德
没错,为了人类的AI。你不需要急着回答,但我们必须得快速作答。我们会问所有嘉宾同样的问题。那么第一个问题是,有没有哪部电影、哪首歌或哪本书让你对未来充满了乐观?
快问快答:未来的梦想
萨提亚
是那种通往繁荣的平行路径,我喜欢这个概念的原因在于,它是一个很好的行动号召。对于接下来的千年,通往繁荣的路径是什么?在过去的一千年里,世界上的某个地区至少已经掌握了成功的蓝图。现在,作为一个整个星球,我们能否在接下来的千年里也做到这一点?我认为这正是我们需要投入最出色工作的地方。
里德
同意。你希望人们更频繁地问你什么问题?那是一个很好的问题。
萨提亚
我很希望能有人问我:有什么是我不感到兴奋的?因为我对很多事情都感到兴奋。但我并不感到兴奋的,例如,是因为我们通过说错话或做错事而失去了对AI的掌控,并且在如何真正实现正和构建方面没有一个完整的思考,没错,百分之百是这样。
里德
那么,考虑到Microsoft为全球许多行业提供支持,你认为在你的行业之外,哪些领域正处于进步或发展的势头中?比如机器人、AI等。你认为哪些领域的进步能让你感到振奋?
萨提亚
生物领域的工作……如果我仔细思考一下,我们最需要深入理解的复杂系统就是人类生物学。因此,任何能够帮助人类照料人类的工具,可能都是最令人敬畏的领域。我最近偶然发现了一件事,关于免疫疗法,有一种测试方法本质上非常复杂且昂贵,用于确定某种特定的免疫疗法是否对某个肿瘤有效。
因此,Providence以及Udub和Microsoft Research的研究人员合作构建了一个名为GigaPath的模型。这是一个很酷的模型,它基本上是对那种测试的模拟,将原本需要耗费大量时间和金钱才能完成的任务,降低了成本,现在任何城市的任何三级医院都可以进行这项测试。那种经济层面上对药物和医疗实践的可获得性,我认为这绝对是一个突破。
里德
那么最后一个问题。如果您认为未来15年一切都向着有利于人类的方向发展,我们可能实现什么样的目标?而我们的第一步应该是什么?
萨提亚
我认为如果一切都向着有利于我们的方向发展,我一直以来都是这样想的。回过头来看看,世界以10%的GDP增速复合增长的梦想是什么?那就是可能发生的事情。一个思想实验是,如果工业革命同时触及世界各个角落,每个国家都能充分发挥其比较优势,那这就是一种极大的正和博弈结构。我们能做到吗?因为我们某种程度上受困于我们所描述的这种观念,即“世界不是那样运作的,历史就是关于统治和主导权力的”。我并不是说我们要完全否定这一切,但归根结底,既然你让我去畅想,我在梦想的是,如果人类能克服自身的有限理性,不再仅仅说“历史总是重演”,而是说“也许我们可以改变进程”。
那么第一步就是接受这种可能性确实存在,我认为这就是让我们走上正轨的方法。否则,我们又会回到反复争论的老路上,即“让我看看历史,然后试着模仿它”。
里德
美好的梦想。Satya,很高兴与你交谈,我们下周董事会见。
萨提亚
非常感谢,Reid。真的非常感谢。
里德
这太棒了。这是一次非常有趣的对话。
