OpenAI的GPT Image 2可能采用LLM(如GPT-4o)主导语义规划+扩散模型渲染的混合架构,突破传统生图模型在文字生成、多轮编辑一致性等瓶颈,并通过数据飞轮和工程优化实现性能跃升。 --- ## 1. LLM主导的混合架构:从"美术课"到"语文课" - **语义理解替代像素生成**:图像被压缩为token序列,由LLM(疑似GPT-4o)负责构图和逻辑,扩散模型仅作最终渲染,解决文字离散符号生成难题 - **C2PA元数据证据**:生成图片的元数据显示"GPT-4o"字段,暗示其核心参与 - **编辑一致性突破**:修改文字或物体时能联动调整关联元素(如改"咖啡"为"红茶"自动调整杯子颜色) ## 2. 数据飞轮:GPT-4o自我迭代的标注体系 - **自动化高质量标注**:利用GPT-4o的图像理解能力,为历史数据生成更精准的语义标注 - **拒绝采样机制**:通过美学/指令/安全三维度筛选训练数据,避免模型崩溃 - **RLHF图像质检**:将视觉标准转化为语言判例(如构图评语、规则清单),统一评估框架 ## 3. 工程优化:速度与对话整合的突破 - **推理加速三要素**:超高token压缩率(1024x1024图→256token)、混合架构分工、投机解码技术移植 - **对话式交互革新**:支持多轮上下文修改(如逐步调整颜色/位置),替代传统"单次prompt-输出"模式 - **需求澄清能力**:通过自然语言对话逐步细化模糊意图,提升生成一致性 ## 4. 技术路线颠覆:图像生成的语言化 - **Tokenizer密语系统**:构建视觉-语言对齐的embedding空间(如CLIP→DALL·E→GPT-4o演进) - **跨模态统一处理**:LLM将图像和文本视为同一语义空间的坐标,实现"像生成文字一样生成图像" - **行业影响**:Midjourney等竞品在画质持平情况下,指令遵循和文字渲染被拉开代差
深扒GPT Image2:疑似“吞”下了GPT-4o,OpenAI没把它当“生图”模型训练
2026-04-27 17:40

深扒GPT Image2:疑似“吞”下了GPT-4o,OpenAI没把它当“生图”模型训练

本文来自微信公众号: 硅星GenAI ,作者:樊雅婷,原文标题:《深扒GPT Image 2:疑似“吞”下了GPT-4o,OpenAI没把它当“生图”模型训练》


GPT Image 2凭什么这么强?


是扩散模型又迭代了一版?是把DiT的参数量从7B扩到20B?是训了更多高质量数据?


这些答案都对,但都不够。


以下是我们与多位从业者交流后,提炼出的几个值得关注的技术方向,并尝试做出更清晰的解释。


先给结论:OpenAI很可能已经不在“纯扩散模型”这条主赛道上了。他们已经把图像生成从“美术课”调到了“语文课”——用一个能读懂指令、能记住上下文、能理解物体关系的LLM主导语义规划,至于最后一步的像素生成,可能由扩散组件或其他解码器完成。


而这个LLM,极大可能是GPT-4o。


支撑这个推论的,首先是两条直接线索。


模型自述



C2PA溯源验证


C2PA是一种内容溯源标准,相当于给每张AI生成的图打上一个数字身份证。任何人拿到这张图,都能查到它是由GPT Image 2生成的、生成时间是什么、经过了哪些修改。


有专业人士在metadata2go.com上对image 2生成的图片进行元数据提取。发现在actions_software_agent_name一栏上记录着GPT-4o。


这也能理解为什么这次image 2的表现惊人了。


图片源于:【深入调查:OAI最新图像模型底层是GPT-4o-祈星函|小红书-你的生活兴趣社区】https://www.xiaohongshu.com/discovery/item/69ea80200000000020003800?source=webshare&xhsshare=pc_web&xsec_token=CB9e0Yo8HLTCLA1XJWh0wUnT3SogJv370RfNnvUD6YFVY=&xsec_source=pc_share


单凭这两条当然不足以拆解全部秘密。但当我们带着“LLM主导”的假定回头审视它的每一项能力跃迁时,这些变化,忽然有了统一的解释。



图像语义,从像素到token


1.1


过去两年,AI生图领域有一条不成文的鄙视链:Midjourney负责美学,Stable Diffusion负责可控性,DALL·E负责……嗯,负责被OpenAI发布。但不管你站哪一队,有一件事是所有人的共识——文字是AI的鬼门关。


你能让AI画出逆光下缅因猫毛发的半透明质感,却无法让它写对招牌上的“Coffee”六个字母。一个能理解顶级光影描述的模型,在文字上给出的结果仿佛楔形文字。这件事的荒诞与根源,就藏在扩散模型的工作原理里。


先说扩散模型为什么写不好字?


因为它的核心是一个从噪声中还原图像的“雕塑家”:


训练时,向清晰照片逐步撒噪声,直到变成纯电视雪花,模型学习逆向去噪。


生成时,从一片随机噪声开始,每步都靠U-Net预测并擦除噪声,几十步迭代后“雕”出毛发、虹膜和光影。


这个过程本质上在还原连续的、可以用概率无限逼近的纹理。毛发可以稍微硬一点或软一点,颜色可以偏暖5%,无伤大雅。


但文字是离散符号,不存在“像不像”,只有“是不是”。字母A就是A,你不能给它加15%的B和8%的C还指望它依然是A。扩散模型的每一步去噪都是一个微小“估计”,用在纹理上是风格,用在文字上就是O变0,或是拼出WElcOm e。


最终就成了外行眼中的“楔形文字”。


不仅如此,扩散模型天然缺乏跨轮编辑的稳定一致性。你让它改一个局部,它本质上是整张图重新画一遍,没改动的地方也会悄悄漂移。


但GPT Image 2现在不仅能“写对字”,还能保持“有记忆”的一致性例如:你修改一个字之后,周围的文字会自动调整间距;当你把“咖啡”改成“红茶”,它不只是替换那个词,而是连带把杯子的颜色从深棕调成了琥珀色。


这说明文字在它的系统里不是图层标注,而是画面语义的一部分。文字内容的改动会像语言中的主语替换一样,连锁驱动画面其他元素的合理变化。


GPT Image 2与其他模型对比图


1.2


它不再把图像当图像看,而是把图像当语言看。


这听起来像玄学,但其实是个很具体的工程选择。要理解这件事,得先搞明白一个概念:Tokenizer。


Tokenizer的作用是把一种东西“翻译”成另一种东西。GPT处理文字前,会先把“你好”这个词切碎编号,变成一个数字ID,比如[11892]。这是文本token化。


图像能不能也这么干?当然能。你把一张图切成16×16的网格,每个格子编个号,也是一种token化。但这种做法太笨重——一张1024×1024的图会变成几千个token,LLM还没开始画就先被淹死了。


所以过去两年,各家大模型公司在拼一件事:怎么把一张图压成尽量少的token,同时还不丢关键信息。


这事有多难呢?想象你是一个情报员,要把《蒙娜丽莎》用一封电报发出去。电报局规定你最多只能发256个字。你怎么办?你不能说“一个女人在笑”,因为对方画不出来;你也不能逐个像素描述,因为字数不够。你必须发明一套只有你和对方懂的密语——“52号微笑、3号背景、17号手势”——对方收到后能八九不离十地还原出来。


这就是OpenAI在tokenizer上干的事。从CLIP到DALL·E再到GPT-4o,他们逐渐构建了一种能够在视觉与语言之间进行映射的语义表示体系。


这意味着:图像和文本被投影到了同一个对齐后的语义embedding空间。



现在在LLM眼里,“一只逆光的缅因猫”这行字,和一张逆光缅因猫的照片,是同一个语义空间里的两套坐标。它能像理解文字一样理解图像,也能像生成文字一样生成图像。


所以当你说“把第三行公司名改成团伙名”,它不是在修图软件里找那个图层,而是在改写一段描述这个画面的密文。改完后,解码器再把密文翻译回像素。


这就是为什么文字突然能写对了。因为对LLM来说,写一个W和写一个我,没有任何本质区别——都是它在密语系统里调整几个token的事。


1.3


既然GPT Image 2很可能把图像变成了语义密文,那这串密文怎么变回一张能看的图?


如果直接把token映射成像素,画质必然一塌糊涂,这是自回归模型的通病:它极度擅长决定画什么,却不太擅长画得好看——就像建筑系教授徒手画效果图,空间关系全对,笔触就是不及美院学生。


而扩散模型正好相反,纹理光影以假乱真,却经常不知道自己在画啥。因此,一个高度自洽的推测浮现:让两款模型打配合。


自回归负责定调:根据你的prompt生成那几百个语义token,敲定画面里有什么、它们的位置关系、整体构图逻辑。这一步决定了“听得懂”,也保证了多轮编辑时对修改对象的记忆与一致性。


扩散负责润色:拿到这串语义token后,不再负责理解内容,只负责填充高保真像素,把既定框架变成光影自然的成图。这一步决定了“画得好”。


这不是理论空想。Google发过一篇叫Transfusion的论文,Meta搞过Chameleon,走的都是类似路线。


当然,这一切都是基于公开信息和模型表现的推断。


OpenAI有没有在用?2026年4月的媒体会上,OpenAI拒绝回答任何关于模型架构的问题。拒绝本身就是一个信号。


如果这个假设成立,那就解释了一切——文字写对是因为自回归天然懂离散符号;多轮编辑一致是因为自回归记住了那一串token;画质没崩是因为扩散在最后一关做了精细渲染。



数据飞轮,GPT-4o自己教自己生图


2.1


但上文那个能把图像压成几百个token的“密语系统”,到底是怎么训出来的?为什么不是别的模型,偏偏是GPT-4o?


答案藏在一件看起来最没有技术含量的事里:数据标注。


在AI圈,数据标注长期处于鄙视链底端。研究员聊架构可以聊一晚上,聊数据标注三句话就冷场。但GPT Image 2这次的表现,甚至表明OpenAI可能已经不需要人工标注了。


而GPT-4o本身就是全世界最强的图像理解模型之一。你给它一张图,它能写出一段比真人标注师还细腻的描述。所以OpenAI可以把过去几年积累的几十亿张图片,重新“过一遍水”——用GPT-4o生成新的、高维度的标注。


但到这里,只解决了“描述”的问题,没解决“筛选”的问题。一个模型生成一百张图,并不是每一张都值得拿来当下一轮训练的教材。这里需要一套严格的“质检”机制——在机器学习里,这叫拒绝采样。


具体来说就是,GPT-4o先根据一段prompt生成一批图像,然后根据美学偏好、指令匹配度、物理合理性等多条标准,逐张打分。批到符合条件的才“收下”,连同它为自己撰写的详细解析,一起塞进下一轮训练集。批到不及格的就直接扔掉。这保证飞轮里的数据不是在低水平循环,而是在有选择地自我提纯。


上一代模型给下一代模型当老师,下一代模型再给下下代当老师。每转一圈,对世界的理解就深一层。


大家的差距也在这个过程中越来越大。这也解释了为什么Midjourney在画质上能和OpenAI掰手腕,但在指令遵循和文字渲染上被拉开代差。


当然,听上去像个永动机骗局——自己教自己,那不得越教越傻?学术界确实有这个担忧,管它叫模型崩溃:模型反复吃自己吐出来的东西,会逐渐丢失分布的尾部信息,生成结果越来越单一、越来越平庸。


但OpenAI在文本侧已经证明:只要老师模型足够强,并且配合拒绝采样这样的严格筛选机制,这事不但不会崩,还能加速,形成数据飞轮。


2.2


这个飞轮里还有一个重要且难搞的角色——RLHF在图像侧的质检员。


我们在文本侧已经习惯了RLHF(Reinforcement Learning from Human Feedback,基于人类反馈的强化学习):给一段文字打分,判断它有用、有趣、符合人类偏好,这件事GPT-4o做得很好。


但在图像侧,难度骤升。因为质检员需要同时盯住三条线:美学偏好;指令遵循;安全过滤。



三条线的标准各不相同,甚至互相冲突。一道强光影可能很“好看”,但压暗了prompt里要求的某个细节,就会被“指令遵循”扣分。一层安全滤镜可能误伤正常的医学解剖图,又得回头调阈值。这种多维度权衡,在文本侧已经跑通,但在图像侧变得前所未有的复杂。


而OpenAI之所以能做成,很可能是因为他们把图像侧的问题全部拉回了自己最擅长的战场:语言理解。


美学偏好被转译成一段构图评语,指令遵循被转译成一组约束条件的核对清单,安全过滤被转译成一套规则判例。所有判断最终都落到了LLM的语义空间里。


可能这才是数据飞轮真正的底牌。不是数据多,而是从标注、筛选到打分,全链路都被统一到了一个理解框架里。拒绝采样负责海选淘汰,RLHF负责精修调优,两者共享一套语义标准,飞轮才转得起来。



工程解法,兼顾推理速度和对话整合


3.1


到这里,我们聊的都是效果。接下来聊一个经常被刻意绕开的话题:推理速度。


先不说审美和一致性上的飞跃,且说一个看似矛盾的现象:生图质量跃升了一个代际,但速度并没有明显变慢。这本身就是一种工程奇迹——OpenAI是怎么做到的?


自回归模型的运作方式是逐token生成——每个token都依赖上一个token的完成。扩散模型则不同,它可以在整张画布上并行去噪,一次处理所有像素。按理论推算,如果GPT Image 2确实用了自回归架构,它的推理延迟应该比纯扩散模型高出一个数量级。


但实际体验是:没有。


第一条线索:Token压缩率可能远超预期。如果一张1024×1024的图只需要256个token就能完整描述,对Transformer来说就是一次呼吸的事。这意味着OpenAI不仅做到了语义对齐,更在压缩率上做到了极致,把高信息密度浓缩到几行字的程度。


第二条线索:推理架构的深度优化。混合架构中,自回归生成的是粗粒度的语义token,决定“画什么”,不负责“画成什么样”。生成步骤大幅缩短,扩散模型只用在最后一小段“按图施工”,而不是从头噪到尾。


第三条线索:投机解码(Speculative Decoding)可能被用到了图像侧。用一个更小的“草稿模型”快速生成候选token,再由大模型一次性验证,这套LLM推理加速经典技巧如果用在图像token上,速度可以成倍提升。OpenAI在GPT-4时代已把这套玩熟,移植到图像侧没有原理障碍。


所以结论是:GPT Image 2的快,不是因为扩散模型变快了,而是因为可能它把最慢的语义规划,从扩散模型手里抢了过来,交给了擅长快速推理的LLM。


3.2


比速度更影响体验的,是与对话系统的整合。


在传统图像生成工具中,例如Midjourney或基于Stable Diffusion的工作流,用户通常通过编写prompt来控制输出结果。虽然这些工具已经支持诸如variations、inpainting和历史记录等功能,但整体流程仍然以“单次输入→单次输出”为主,用户需要通过多次尝试逐步逼近目标效果。


这种过程在实践中往往表现为反复试错:


用户根据结果调整prompt,但模型对指令的理解程度并不完全透明,因此需要多轮迭代来校正偏差。


相比之下,集成在对话系统中的图像生成引入了连续上下文机制,改变了交互方式。


用户可以在多轮对话中逐步细化需求


模型能够利用对话历史理解“当前修改”对应的对象或属性


修改请求可以以更自然语言的形式表达,而不需要一次性写出完整prompt


例如,在多轮交互中,用户可以先生成一个基础场景,再逐步提出局部修改(如颜色、位置、风格)。最后,模型基于上下文生成新的结果。


对话式交互还带来另一个优势:需求澄清能力clarification。将模糊的自然语言意图,逐步转化为更具体的生成条件,从而提高生成结果与用户预期之间的一致性。


在GPT Image 2出现之前,AI生图领域的讨论框架是这样的:


“扩散模型的缩放定律还能走多远?”


“DiT架构和UNet架构谁更优?”


“Flow Matching会不会取代DDPM?”


“多模态对齐的损失函数怎么设计?”


这些问题都有价值,但它们共享一个隐含前提:图像生成是一个独立的、需要专门架构来解决的问题。


而GPT Image 2给出的的回答是:不一定。


如果我们把镜头再拉远一点,GPT Image 2的出现其实指向了一个更大的命题:世界模型。


让我们重新思考什么是生成,以及世界。

AI原生产品日报频道: 前沿科技
本内容来源于网络 原文链接,观点仅代表作者本人,不代表虎嗅立场。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。
正在改变与想要改变世界的人,都在 虎嗅APP
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定