本文来自微信公众号： 硅谷101 ，作者：硅谷101
AI行业突然开始了一场“造芯大战”。
7月20日，The Information报道称，谷歌正在研发一款内部代号“Frozen v2”的服务器芯片，计划把Gemini模型的部分架构直接固化进硅片。
而在一个月前的6月24日，OpenAI亮出了和博通联合研发的首款推理芯片Jalapeño，从设计到流片只用了九个月。
此外，Anthropic、智谱、DeepSeek也都相继传出正在进行相关布局。
但并不是每家公司都有资金、有能力去重造一块芯片。因此有一个市场正在引发资本和巨头的关注：AI infra。背后的逻辑是：已经部署好的数据中心和GPU，本身还存在优化的空间。
AI推理平台Baseten一年收入增长了20倍，估值从21亿美元暴涨至130亿。同赛道的fireworks，七个月内估值翻了四倍达到175亿美元，年化营收突破10亿美元。
而最近，这个赛道还迎来了一股强劲势力。开源推理引擎“双子星”vLLM和SGLang前后脚宣布商业化，种子轮融资都超过1亿美元，背后几乎聚齐了AI产业里所有巨头和顶级风投的名字，拉开了强强对决的大幕。
所以，“GPU的利用率”成为了硅谷的最新关键词，也带出了一个新的千亿级市场。
本文为视频改写，欢迎大家收看以下视频
大模型的重心从训练走向推理，这对算力会提出完全不同的要求。
训练成本极高，但训练完之后，任务就告一段落。但推理不同，无论是Chatbot还是Agent，AI应用越多，GPU需要处理的请求就越多，而且这些请求完全不间断，推理需求也随之爆发性增长。
朱邦华
RadixArk联合创始人
随着新的应用逐渐增多，推理的总量会比原来大很多。随着大家不断拓展应用、不断拓展模型的智能边界，推理的需求会越来越大。现在已经大到，市面上的卡基本都很难找到，每一家都缺卡。
现在的情况就是，市面上每一家都缺卡，而对于有钱的巨头们来说，最直接的方法当然还是继续建数据中心、采购更多GPU。
Meta、Google、Microsoft等科技巨头持续提高资本开支，今年合计预计超过1万亿美元。而黄仁勋预测，到2030年，全球AI基础设施年投资规模将达到4万亿美元。
但华尔街，是担心的。
Ethan Xu
前微软能源战略经理、突破能源科研总监
华尔街的担心不无道理，过去我们是有前车之鉴的。像互联网时代泡沫的破灭，当时大量资金投入到光纤建设、互联网公司，虽然长期来看实现了它们的价值，但短期出现了很大的问题。
所以，如果不能在短时期内大规模增加算力，还有什么办法能够满足AI快速发展的需求？答案是：提高GPU的利用率。这背后的这一层产业，叫做AI Infra（人工智能基础设施层）。
首先，我们从AI Infra的整体架构角度，来科普GPU的一个误区：你以为GPU很忙，其实大多数时候，GPU是很“闲”的。
GPU只是整个AI系统中的一环。从一条用户请求进入系统开始，它需要经过网络传输、资源调度、模型加载、内存管理，再到最终完成推理、返回结果。整个过程中，只要任何一个环节出现瓶颈，GPU就只能停下来等待。
卡内基梅隆大学（CMU）今年4月发布的一项研究，对一个大型学术AI集群里的756块GPU做了31天的细粒度遥测，覆盖A6000、L40S、A100、H100到最新B200等六种型号。结果发现，很多时候GPU都处于一种叫做“execution-idle”（执行时空转）的状态。
这种“看似繁忙实则空转”到底有多严重？在他们观测的集群中，整体上有近20%的执行时间和约11%的能耗被浪费在了等待上。更值得关注的是推理场景，Azure Code负载有高达65%的能耗消耗在这种空转上，OpenAI的Chat类请求也达到52%。
那么，为什么GPU会被跑不满呢？我们首先要了解一下AI Infra的四层架构，每一层其实都会影响GPU的利用率。
第一层：能源基础设施（Power Infrastructure），也就是电。这一层决定的是，GPU能不能持续稳定地运行。
第二层：计算硬件（Hardware Infrastructure），也就是卡。除了GPU，现在还包括高带宽存储（HBM）、高速互联（NVLink、InfiniBand）和CPU等。这一层决定的是理论上能够提供的计算上限。
第三层：系统软件（System Software），包括CUDA、编译器（Compiler）、通信库、内存管理和底层算子（Kernel）库等，决定的是每一次计算能不能被执行到硬件的物理极限。
第四层：服务编排（Service Orchestration），这一层要负责协调GPU资源，决定哪些任务优先运行，以及不同业务间的动态调度。推理引擎、训练框架、请求调度和资源管理等都属于这一层，代表性项目有vLLM、SGLang等，也是近年来创新最密集的地方。
搞清楚了AI Infra的架构之后，回到我们的问题：为什么这么多GPU跑不满，主要卡在什么环节？
理论上来说，四个层级中的任何一层出现问题，都会影响GPU利用率：电力和散热不足，GPU会被迫降频运行；硬件互联跟不上，会让GPU花大量时间在等数据而不是算数据；系统软件优化不够，会让每一次计算都无法触及硬件的物理极限；而请求调度不当，会让本来可以合并的计算被拆散、可以复用的结果被重算，造成浪费。
但这四层的问题，性质并不相同。能源基础设计层和计算硬件层是“硬”问题，电力、散热、芯片的改造周期以年为单位，而且优化空间正在快速见顶。系统软件层和服务编排层是“软”问题，本质上是工程问题和算法问题，优化之后能带来数倍的性能提升。
在这样的背景下，行业的注意力也在快速往这两层“软”问题上移。
陈震林（Richard）
RadixArk Member of Technical Staff
尽管成本主要发生在物理层，但大部分工作都要放在软件层和服务编排。因为你把人力投入到这一块当中，能够带来最大的优化可能性。
举一个具体的例子。一台NVIDIA GB200 NVL72机柜，采购成本大约在400万美元。但如果软件栈没有做好调度和优化，GPU的实际利用率可能只有50%，相当于只用到了200万，剩下的200万美元就以电费、折旧和机会成本的形式被白白烧掉了。反过来，如果能把利用率从50%推到90%以上，效果就相当于凭空多出了一台机柜。
陈震林（Richard）
RadixArk Member of Technical Staff
软件层能做得最好，就会带来更好的服务和更好的token消耗。通过这一层的重写和优化，去帮助推理引擎和训练框架做更好的交互，也包括像reinforcement learning（强化学习）这种现在特别火的post-training（后训练）过程的调度，把GPU的利用率给提上来。
这就是为什么，当硬件成本高到这个量级时，软件层的每一次优化，都变成了直接的商业问题。
不久之前，有网友扒出Anthropic的员工中现在占比最大的就是AI Infra相关的工程师，背后也与这个逻辑息息相关。
陈震林（Richard）
RadixArk Member of Technical Staff
Anthropic现在推理的队伍大概已经有200多个人，在这三年期间，他们也是从infra极度不稳定，到现在极度趋于稳定，以及把成本和优化做得更强，这也直接影响了他们的营收能够在二季度就实现盈利。
OpenAI、Anthropic和谷歌会把这样的AI Infra团队放在公司内部做，因为这成为了各大前沿实验室的竞争壁垒之一。但对于没有资金量做优化的稍小一些的模型团队或初创公司来说，两个开源框架成为了他们的支柱，分别是SGLang与vLLM。
陈震林（Richard）
RadixArk Member of Technical Staff
这就是为什么两年前会有像SGLang这样的开源社区出现。你需要有这样新的框架，去重新定义这一波新的硬件系统组合，才能跟它做更好的适配。
理解了四层架构以及需要被优化的两层“软”问题，那具体应该怎么做呢？
目前所有的优化工作，都可以归结为对四个问题的回答：哪些计算不用重新做？哪些等待可以消除？哪些算力没有吃满？哪些资源没有协同？
刚才我们提到的SGLang与vLLM都是在围绕着这几个问题展开，只是设计思路略有不同。vLLM因提出PagedAttention而受到广泛关注，更强调常规、通用的推理部署场景。SGLang则从推理执行流程出发，更强调计算复用和系统级优化。
▍K/V Cache的极致复用
大模型推理里有一个“很傻”的事实：当同一段文字被反复喂给模型时，它每次都要从头计算一遍。
这在实际业务里简直就是硬伤，尤其是在agent（智能体）工作流里，同样的工具描述可能被调用几十次，每次都从零开始。业界现在把它称为“推理税”，这意思大概跟智商税也差不太多，反正都是白花的钱。
那这税能不能省呢？当然能。
Anthropic之前就做过一版优化，直接把成本砍了90%，同样的东西本来要花十块，优化完只花一块。而这背后最核心的思路，叫做KV Cache复用，简单来说就是把算过一遍的东西存下来、下次直接拿来用，不用从头算。
Transformer在解码时，每一层self-attention（自注意力机制）都会把历史token映射成Key/Value张量，简称KV，Cache就是缓存。有了KV Cache之后，在第一次请求的prefill（预填充，指用户输入完prompt到生成首个token的过程）阶段，系统能把prompt中每个token、每一层的K/V存下来。之后解码每个新token时，只计算新token的KV并追加到缓存里，历史token的K/V则直接复用。
但KV Cache有一个弊端。它虽然可以降低解码的计算量、降低首token延迟（TTFT），但代价是占GPU显存。当上下文很长、同时又有很多用户请求时，KV Cache会占用大量显存。显存一旦不够，模型就很难继续提高并发和速度，所以它常常会变成推理服务的主要瓶颈。
它的核心思路是用一种叫做“基数树”（Radix Tree）的数据结构，来组织海量请求的KV Cache。你可以把它想象成一棵共享前缀的家族树，共享同样开头的请求会共用同一段枝干，只有当内容开始分叉时，才各自长出新的树枝。
朱邦华
RadixArk联合创始人
现在的智能体世界里，很多时候会有很多共享的系统提示词，在共享的系统提示词之后会有不同的用户提示词，而在同一个用户提示词下面，大家会接着问问题，所以树状结构就会不断向下延伸。这也是SGLang论文比较有远见的地方，它在2023年的时候就已经大概预见到了这样的模式。随着智能体编程的用户越来越多，Radix Tree，也包括SGLang本身的prefix cache（前缀缓存）这套系统，带来的增益就越来越大。
比如说Cache-aware scheduling（缓存感知调度），就是把相似请求排在一起处理。你可以把大模型运作想成餐厅后厨，如果后厨现在连续处理的三单都是麻辣香锅，那很多调料和准备工作可以复用，效率很高，就算有区别，也只是小辣、中辣、大辣的区别。
但如果顺序变成麻辣香锅、寿司、牛排、麻辣香锅、寿司、披萨、麻辣香锅，中间切来切去，大厨还得洗锅，那复用机会就少了。所以SGLang会用Cache-aware scheduling让前缀相似的请求靠近处理，把顺序重新排成3份麻辣香锅、2份寿司、牛排、披萨，这样缓存更容易命中，效率也就进一步提高。
还有一个叫Eviction（淘汰机制），就是显存不够时，扔掉最不可能再用的缓存，跟你管理手机内存是一样的道理，10年前的照片和文档，可能就没有最近几个月的数据那么有价值。所以常用的系统提示词、高频RAG文档，还有最近刚被用过的对话前缀更会被保留，而显存不够时，就淘汰很久没用过的、复用价值低的、不太可能再被访问的KV Cache。
还有一个让AI Infra显得非常有智商的技术，叫做分布式cache-aware load balancer（缓存感知负载均衡）。大规模服务通常有很多GPU，如果某段长prompt的KV Cache在GPU 1上，但下一个相同前缀的请求被发到了GPU 3，那GPU 3没有这份缓存，还是得重新算。所以SGLang还会尽量把请求发到“已经有笔记”的那个GPU上，这样一来，可以少算很多重复内容。
▍等待：让GPU别闲着
现在这行情，内存价格一个季度能涨90%，高端显存缺货缺到2027年，GPU有钱都不一定抢得到。但最后，这些花了大价钱抢到的卡，一半时间却都在“干等”。
第一是请求之间的等待。最早的推理引擎是“排队制”，请求一个个来，一个算完再算下一个。后来演进到“批处理”，凑够一批一起算，但凑批也要等，这不解决浪费的问题，而且一批里如果有的请求短、有的请求长，短的算完了要等长的算完才能一起下车，短请求的用户体验极差。
现在主流的做法叫Continuous Batching（连续批处理），不再等一批人全部到齐再发车，而是像一辆随时可以上下客的公交车，新请求随时能上车，算完的请求随时能下车，GPU始终保持满载。这一改造，能让GPU的实际吞吐量提升2到4倍。
除了请求等待之外，计算阶段也有等待。大模型的推理其实包含“读入”和“生成”两个阶段。读入阶段（Prefill）要快速处理一大段文字，对算力要求高。生成阶段（Decode）则是一个字一个字往外蹦，计算量不大，但每写一个字都要翻一遍完整记忆，对显存带宽极其敏感。过去这两个部分都被塞进同一张GPU里混合执行，结果就是Prefill在算的时候Decode在等，Decode在算的时候Prefill在等，互相拖累。
现在的做法叫Prefill/Decode分离，把这两个阶段拆到不同的GPU上，各自用最适合的硬件配置，通过高速网络传递中间结果。比如DeepSeek就采用了这个方案，Prefill“读题”时，32张GPU组成一个最小计算单元，等真正开始“逐字作答”，任务就交给另一批GPU接手，两拨卡各干各的，互不打扰。
接下来我们说说第三个大问题：算力跑满的问题。
▍算力：“多释放一倍”
当年英伟达的H100发布后，Tensor Core算力相比A100提升了数倍，整个行业都期待着AI推理能同步增长、性能飞跃，但现实却并不是这样。背后的主要原因是，GPU大量时间花在了数据搬运上，又受限于串行解码，计算能力无法得到充分释放。
解决思路有两个主要方向。
一个是低精度计算。大模型在运行时，GPU显存里主要装了三样东西：模型权重、中间激活值、以及KV Cache，这三部分的精度可以独立设置。用更小的数据格式来存储或运算其中的任何一部分，都能减少显存占用，也能利用GPU上更快的低精度算力。在合适的场景下，甚至能多释放出一倍的算力空间。
另一个是投机采样（Speculative Decoding），意思是先用一个小模型（draft model，也叫草稿模型）“猜”接下来几个字，再让大模型进行一次性验证，猜对了就等于一次计算生成多个字。
做个类比，大模型是个很厉害但很忙的老师，小模型是个速度很快的助教。之前，学生每写一个字都要问老师这个字行不行，老师确认后再写下一个字。但投机采样是助教先帮学生写一小段草稿，老师一次性看这一小段，如果前面都对就全部通过，如果中间错了，就从错的地方重新来。
这样的方式，最佳情况下能把生成速度提升2到3倍。而推理引擎在这里扮演着一个至关重要的角色，就是把这些新能力第一时间集成到系统里，把软件和硬件打通，优化协同起来。
朱邦华
RadixArk联合创始人
朱邦华
RadixArk联合创始人
最后，我们再来说说SGLang在强化学习上的一个重要优化：Miles。
▍资源协同：适配RL后训练的Miles
强化学习成为了新一代模型的核心训练方式，这包括OpenAI o1和DeepSeek R1等等，这也让AI训练的形态发生了巨大变化。
传统的模型训练是一件“体质单一”的事：喂数据、更新参数、再喂数据、再更新参数，整个过程中GPU干的都是同一类活儿。这种情况下，硬件配置和调度策略只要针对“训练”这一件事优化到位就行了。但强化学习要把推理、评估、参数更新三种完全不同的计算揉在一起循环跑，三件事对硬件的需求天差地别。
朱邦华
RadixArk联合创始人
准确来说，强化学习必须要做在线推理。它的负载是，我先让模型生成很多要回答的内容，然后根据这些内容打分，再把模型更新一下，再去回答一些新的问题，然后再给它打分。所以本身它就是一个交替做训练和推理的过程。
如果用传统的训练框架来跑强化学习，它们会在同一批GPU里争抢资源，生成的时候训练在等，训练的时候生成在等，大量算力被浪费在阶段切换和相互等待上。
RadixArk Member of Technical Staff
如果单纯无视训练、只做推理，反而可能没有办法押注未来。因为最终可能还是会有很多人希望自己训练自己的模型，然后再去推理。所以如果我们想做整体的AI软件基础设施，我们认为两边都需要关注。
和传统训练框架相比，Miles最大的不同是：它把“训练”和“推理”放进了同一个系统里一起考虑。这点在强化学习里非常重要，就像我们前文提到的，在强化学习中推理和训练是一个交替进行的过程，如果配合不好，很多算力就会被浪费掉。
陈震林（Richard）
RadixArk Member of Technical Staff
我们说了这么多技术上的理论，是因为这一层对于AI大模型的发展真的非常重要。它希望把“硅”的极限榨出来，让整个AI系统的算力效率被系统性地释放出来。
而就如我们之前提到的，SGLang和vLLM都是开源架构，背后主要依靠一群研究者和工程师在业余时间共同维护、为爱发电。但当全世界都面临算力紧缺、需要去“榨”硅的极限从而释放更多算力的时候，仅靠开源社区的协作已经难以满足庞大的需求了。于是，SGLang和vLLM的主创团队都前后选择了正式出来创业，更快速、更投入地把技术往前推。
最近，黄仁勋牵头成立开源AI联盟，联盟里既有模型公司，也有芯片公司，还有像SGLang这样的AI Infra项目。
朱邦华
RadixArk联合创始人
所以，当AI Infra能力从少数前沿模型巨头的独家资源，变成任何一家创业公司都能直接调用的公共品，从事AI工作的门槛会被显著降低。而这，或许才是“榨出硅的极限”这件事最重要的意义。
我们也希望看到，在infra红利被全面释放之后，会有越来越多带着新想法、新架构、新应用场景的团队不再因为infra而被拖慢脚步，这也能让AGI距离我们更近一步。
