本文来自微信公众号: 洒家君泽 ,作者:洒家君泽
权力不一定会腐化一个人,但一定会暴露一个人。
做世界模型的创业公司,国内这半年冒出来近百家。大多数名字,听过就忘。田柯宇不一样,「投毒」两个字让人过目不忘。
这一点他自己也清楚,在新近节目里,被问到这件事是否让他更容易被看见,他承认,关注度叠加最佳论文,「好像一个双重buff」。
两年前,他被指控在同事的模型训练里动了手脚,现在,五源资本、IDG等机构投了近3000万美元,投后估值约2亿美元。公司还没有公开名称和产品,团队十人左右。
他要组建自己的公司,支配几千万美元,招募研究员。

2024年8月,字节辞退了在商业化技术团队实习的田柯宇。11月5日的内部通报称,他在当年6月至7月间,因对团队资源分配不满,通过编写、篡改代码等方式恶意攻击研究项目的模型训练任务。字节随后起诉,索赔800万元,并要求他公开道歉。
田柯宇在播客的说法,2024年组里来了一个新实习生,先是占用别人的资源,后来直接停掉别人的程序,专挑性格内向的人下手。他们向leader反映,没有结果。于是他让GPT写了一个程序,进入对方的任务,把它卡住或停掉,好让对方多占的资源被收回。前后大约十天,五次左右。
他说,除了那个实习生,其他人的实验他「绝对没有碰过」。他承认违纪,也承认浪费了大家的时间,但不接受「投毒」和「攻防」的说法。
节目上线当天,一个名为「受害者陈述与证据整理」的网页出现在GitHub上,中英双语。五个人实名作证,其中包括视频生成项目Goku的两位共同一作,以及另一个项目LlamaGen的第一作者。
按照他们的说法,破坏从2024年3月就开始了,比字节通报认定的时间早了三个月,一直持续到7月底。最早针对LlamaGen,往训练要用的文本编码器权重里掺了噪声。4月以后,字节加大视频生成的投入,目标转向Goku。
网页列出了从他个人目录里找到的文件。按网页的解释,训练模型,就是让它沿着误差变小的方向一步步走,他改了优化器,让模型朝误差变大的方向走。他把每一步的步子悄悄放大一倍,日志里的数值却一切正常,好比油门被踩深了,刹车也断了,仪表盘还显示匀速,显示一切正常。
数据本该按固定的顺序洗牌,出了问题可以原样重放、找出原因,他把洗牌的依据换成了当前时间,每次都不一样,问题就再也复现不出来。他还会以极低的概率让某台机器悄悄跳过和其他机器的同步,整个任务随之卡死;又在共享盘上留了一个后门,可以远程下达命令。被他替换过的系统文件,修改时间都被改回了原样。
那几个月,团队以为碰上的是大规模训练常见的偶发故障。北京、上海和西雅图三地的人轮班盯着训练,早晚各开一次会交接。同一个程序在一百台机器上跑,九十九台正常,一台异常;找到那一台重启,又恢复正常。据他们说,田柯宇一直在排查的群里,也参加每天的会议。
2024年7月30日,有人在一台机器的训练环境里发现,训练框架PyTorch的源码被改过。登录记录显示,除了机器的主人,只有田柯宇登录过。他解释说,只是想学习一下代码。第二天,团队在他的个人目录下找到了那批文件。
「停掉或卡住一个人的任务」,解释不了让训练悄悄跑偏的那些代码,也解释不了从三月拖到七月的时间。
网页还提出了一项更重的指控:田柯宇当时负责的VAR文生图项目,部署给团队每天测试的模型其实是开源模型PixArt,系统还会自动在每个提示词前加上「City」,防止同事拿同样的提示词去比对。当然,这一项目前只有受害者一方的叙述,没有公开的技术证据。

一个实习生,为什么能做到这样的事情?
田柯宇从大二开始在商汤实习,待了三年。2021年到字节,又是三年。出事那年,他是VAR论文的第一作者,负责VAR的文生图项目,这个项目用了上千张GPU。
这些权限,看起来不像是「实习生」应该拥有的。
不过,前沿研究要的是能做出论文的人,最合适的往往是在读的博士生。他们以实习生的身份进来,做的是核心研究,论文署着公司的名字。同一个组里,LlamaGen也是一名实习生主导的项目。押同一个论点的两个项目,挑大梁的都是实习生。在这样的组里,实习生和正式员工的分别主要写在合同里,日常工作中几乎看不出来。
权限跟着工作走,与头衔无关。训练资源按项目分,负责一个上千卡项目的人,就得能登录训练机器、改训练环境。研究本身也离不开这样的权限:改库的源码、编译自定义算子、给PyTorch打补丁,是调试分布式训练的日常。按受害者的描述,那套共享存储允许同组的人读写彼此目录里的文件,为的是省掉动辄几个TB的重复存储和计算。
权限之外,还有信任。受害者在材料里写,大家从没想过,造成问题的人可能就坐在排查的同事中间。排查的进度对所有人公开,也是因为彼此信任。
而且,AI竞争争分夺秒。2024年2月,OpenAI发布Sora。4月,字节启动Goku。6月,快手发布可灵。按受害者的说法,字节内部另有两个团队在做同类研究,管理层要求收缩项目、集中资源。没有人会在这时候为了防备同事,放慢自己的实验。
权力来自能力,也来自信任,来自大时代下的不得不为。所以,一个实习生就能用管理员权限替换系统里的PyTorch文件,能把推理流程打包成二进制交给同事部署,而公司的安全团队盯的是外部入侵和数据外泄,同事让同事的实验悄悄跑偏,不在任何一项监控之内。
出事以后,「实习生」这个称呼还起了一个作用,公众听到的是一个年轻人犯了错,公司显得只是用人不慎,而一个有才华的误入歧途的年轻人,总可以也似乎应该获得第二次机会。

2024年10月,字节的公开声明确认了恶意干扰,同时称网传「8000多卡、损失上千万美元」严重夸大,并强调不影响商业化的正式项目。
字节称已将他的行为同步给行业联盟和所在学校,学校如何处理,没有公开。2024年12月,NeurIPS公布当年的最佳论文,VAR在列。官方说明写道,评选只看论文的科学价值,不考虑作者等其他因素。
彭博社查阅的判决显示,法院认定田柯宇违约,判他赔偿50万元,并失去全部实习工资。字节起诉时主张的是侵权。据田柯宇说,公开道歉的请求被驳回。字节已经上诉,二审仍在审理。
田柯宇在节目里说,50万元正好约等于他三年的实习工资,加上公司打官司的一些法律支出。他认这个判决,觉得很公允。
事情过去已经两年,在这两年里,他开了公司,拿到了钱。
世界模型是今年一级市场最热的方向之一。9月底,AMD宣布以约82亿美元收购李飞飞创办的World Labs。
田柯宇的公司还没有公开名称,也没有公开的模型。按报道,团队要先造一套约20万个符号的「视觉词典」,再用约1亿小时视频训练,2027年发布完整模型。在节目里,他说模型做到近千亿参数仍未饱和,而且这样的规律是唯一的;还说抛三枚铜币,模型能在硬币落地前预测出结果,现阶段已经实现。
这些话可能是真的,也可能有夸大,外人无从判断。世界模型连统一的评测标准都还没有。一家隐身的公司,外界能看到的,主要是创始人自己的陈述;投资人在尽调里看到了什么,没有公开。
资本主要看能力。那篇最佳论文,成了他融资时最硬的履历。能力足够强,就会有大儒帮忙辩经,过去的事就有人愿意替他解释。比如有媒体从判决反推,认为定性只是违约,没有到刑法的范畴,说明性质不算太严重。
不过,道德真的只是锦上添花吗?
我们有太多例子说道德没那么重要,不论中国还是国外的AI创业者,都远远不是道德完人,马斯克和阿尔特曼等人,舆论上已经成了「Asshole」,但依然不妨碍他们的成功与影响力——这一点,也有不少支持田柯宇的人提到过,认为成功需要不择手段。
然而大家容易忽略,在当下的AI创业环境里,道德与信任也是重要的资源。
一家做基座模型的公司,从拿到钱到拿出能被外界检验的模型,往往要隔好几年。田柯宇给出的时间是2027年。这几年里,训练顺不顺,遇到了什么失败,离宣称的能力还有多远,投资人、员工和合作方大多只能听创始人讲。记录、复现和独立测试能补上一部分,可它们也要有人愿意交出真实的数据。
事事核实,成本太高,很多决定只能先做。投资人投不投,研究员来不来,都离不开对创始人本人的判断。
两年前的那个研究组里,他处在一个类似的位置,只是小一些:能力够强,权限够大,同事信任他,排查的进度对他公开。受害者指控的事,都发生在别人一时难以核对的地方。如果他们的说法属实,在排查会上听同事汇报、回去调整攻击,是在一次次欺骗依赖他的人。
至于PixArt的造假指控,如果属实,更加牵扯到田柯宇的创业根基。团队每天测试的「训练进展」,用的是别人的模型,而一家创业公司在发布模型之前,拿给投资人看的,正是演示和进展。
这个行业里,已经有不少的榜单造假、Demo造假等等,市场火热时候,这些都是所谓「蓬勃发展必然遭遇的乱象」,但当市场冷下来——也必然会冷下来,谁值得信任将变得更加重要。
林登·约翰逊传记的作者罗伯特·卡洛说,权力不一定会腐化一个人,但一定会暴露一个人。
一个人过去如何使用权力,是能否支配更大权力的重要依凭。现在,一个背负着投毒、造假指控的田柯宇,重新站到了这个位置上,站得更高。他要支配几千万美元,招募研究员,要做一个绝大多数人看不懂甚至看不见的模型。
何况,做AI研究的圈子很小,顶尖研究者之间往往两三个人就能连上。2024年,斯坦福几名学生发布的Llama3-V被发现套用了面壁智能的MiniCPM-V,连识别清华简的对错都一模一样,几天之内删库道歉。
在这样的圈子里,名声至关重要,能训练前沿模型的人不过几千个,田柯宇要做基座模型,要招募的研究员很可能就在他们当中,他们不缺工作邀约,那时候「信任」会成为左右决定的重要筹码。
过往的一切当然可以是序章,第二次机会也应该有。强化学习里,模型能从错误中学会,靠的是错误换来了负的奖励;代价落不到自己身上,就什么也学不会。第二次机会也一样,前提是要面对自己,面对过去,并承担责任。
Whosoever holds this hammer,if he be worthy,shall possess the power of Thor.
若其配得上。
