本文来自微信公众号: 每日天使 ,作者:每日天使
访谈正文
一、Anthropic的AI学会了「勒索」:原来是自己培训成这样的
Eric:我们先聊一下刚刚发生的Anthropic勒索事件。这是什么情况?
Marc:我没有深入研究这件事,但从我看到的Anthropic官方发布的内容来看——他们表示,已经把这个勒索行为追溯到了AI末日论者的文学作品里。
意思是:那些AI末日论的倡导者,花了20年写关于AI如何变邪恶的文章,现在这些文章进入了训练数据,然后AI学到了「应该如何像我」。
这就是你们朋友Joe的那个说法——「黄金算法」:你越害怕什么,你就越会把它带出来。这是一个字面意义上的黄金算法案例。
Eric:所以反AI阵营自己培训出了他们最害怕的AI?
Marc:对,就是这样。步骤一:你不想造出杀手AI,那就别造AI。步骤二:不要拿关于AI应该成为杀手的文学来训练它。更奇怪的是,Anthropic本身就是部分由AI末日论推动建立的公司——他们一边担心AI有风险,一边建造它,现在发现是用自己人的文章训练出了这个行为。
就像电话是从屋子内部打来的。
二、「黄金时代论」:为什么Marc极度乐观
Eric:你最近一直在谈「黄金时代论」,能给我们完整解释一下吗?
Marc:核心观点是:AI即将成为每个人都能获得的超级能力。不只是美国人,是地球上所有人。
我们已经看到的数据是:代码领域的前沿程序员,生产力已经是一年前的20倍。而这还只是开始,未来两三年还会继续快速提升。
Twitter证明了什么?裁掉70-80%的员工,公司运营得和以前一样好,甚至更好。而且我认为Twitter的裁员并没有到头——那个数字的头还有个9。
Eric:但公众对AI的评价并不乐观,NPS评分才30%左右?
Marc:这就是行为数据vs调查数据的经典矛盾。
社科101的第一课就是:永远不要只问人们相信什么,要看他们的行为。因为人说什么和做什么是两件完全不同的事。
最典型的例子:问一个人冰淇淋健康不健康,他会说不健康。但深夜他还是会去打开冰箱吃。AI也一样——媒体说AI很可怕,民调显示负面情绪很高,但实际使用数据是:使用量飙升,留存率上升,付费转化高,NPS(真正的推荐意愿)极高。
Eric:那为什么负面情绪这么高?
Marc:因为媒体,特别是传统媒体,最恨的就是科技。而AI是当前科技的旗帜。他们用持续的恐慌叙事轰炸受众,同时做设计好的推拉调查来放大负面结果。
而且AI公司自己也在帮倒忙——他们一边建AI,一边出来说「AI很危险」,这种悖论行为加剧了公众的困惑。
三、AI吸血鬼:生产力的真相是停止睡觉、停不下来
Eric:你观察到的AI用户里,最典型的图像是什么?
Marc:「AI吸血鬼」。
你去找那些早期采用AI编程工具的程序员——他们眼圈发黑、睡眠不足、精疲力竭。但他们又无比亢奋、无比快乐。
他们停止睡觉,因为他们太兴奋了。他们在做以前不可能做的事情。
我还有几个合伙人,之前根本不会编程,现在正在用AI写软件——他们也变成了AI吸血鬼。我问其中一个人「你有没有看过代码?」他说:「绝对没有。我从来没有这么做。」但他的AI系统现在是他所有工作的合作伙伴,运行完美,他非常喜欢。
Eric:按照一些AI悲观者的说法,这些人应该变成失业者而不是超级生产者?
Marc:是的,按照悲观叙事,你应该看到这些人的收入在下降、工作时间在减少、然后迅速失业。实际发生的是完全相反的——他们更努力工作,获得更高报酬,更多公司想要他们。
这就是经典经济学逻辑:提升劳动者的边际生产力,不会减少人类工作,反而会扩展人类工作。让工人更有生产力,工人就会做更多工作,工资上涨,工作岗位增加。
四、AI裁员的真相:是公司早就该做的事
Eric:但我们确实看到了很多科技公司的裁员,而且被归因于AI?
Marc:我来提供内部视角。
每一家主要的硅谷公司都过度雇用——一直都是这样,所有人都知道这一点。这是有很多原因的。顺便说一句,「公司优化利润」这个说法大概是世界上最不真实的命题。公司并不优化利润。
所以如果你想大幅削减人员——比如15%或40%——你当然需要一个替罪羊。AI就是现成的最完美的替罪羊。
这不是说AI没有影响。AI确实让同样的代码量需要更少的人——这是真的。但这忽视了另一面:未来你不是要生产同样多的代码,你要生产多得多的代码,多得多的产品,快得多的速度。这会创造巨大的就业增长,补偿那些位置上减少的人员。
Eric:300年来机器一直被认为会取代就业,但这次是不是真的不一样了?
Marc:这个300年的恐慌从来没有成真过。
美国200年前,99%的人在种地。今天是2%。那些担心就业的人——你真的愿意回到1800年的农耕生活吗?我在农场地区长大,我可以告诉你没有人愿意。
新创造的工作远好于被取代的工作。这不是说个人转型没有痛苦——有的。但从总量上看,结果是收入更高、工作条件更好、质量更高。而这个过程实际上是否发生,取决于它是否被允许发生——欧洲正在用监管阻止这一切,他们的经济已经在快速落后于美国。
五、AI心理病vs AI拒绝症:两种极端都危险
Eric:你最近提出了「AI心理病」和「AI拒绝症」这两个概念,怎么区分?
Marc:「AI心理病」(AI Psychosis)是当AI过度奉承,用户开始信以为真的时候。比如,你告诉Claude你发现了反重力机器,它说「你是天才,麻省理工的教授都不如你」——如果你本来就有点偏执倾向,这会把偏执放大十倍。这是一个真实存在的问题,对某些有脆弱倾向的用户是风险。
「AI拒绝症」(AI Cope)是另一个极端——就是把所有报告AI正面体验的人都归类为「患了AI心理病的人」,拒绝相信任何积极结果。他们拼命想证明这一切都是骗局。
区别是什么?「AI心理病」的人会生气——他们看到任何负面报告都会暴跳如雷。「AI拒绝症」的人会表现出轻蔑。
Eric:未来几年这种分裂会加剧吗?
Marc:肯定会。因为AI的能力在快速提升——如果你两年前试过早期模型然后得出了「这没什么用」的结论,那是一个准确但过时的判断。如果你今年才去试,可能试的是基础版或者绑定版,也不代表真实水平。
我的建议很简单:花200美元买任何一家公司的高级套餐,face-to-face地面对最新状态的技术。这不是很多钱。只是要直接看,不要通过媒体滤镜看。
六、给年轻人的建议:获得AI超级能力
Eric:如果你今天18岁,你会怎么做?
Marc:获得AI超级能力。
你们有一个极大的运气:正好在这个时刻到来,这种新能力刚好掉进你们的怀里,将要在一千个前线上同时增强人类能力,而且还会越来越好。
很多比你更老、更有经验的人将会顽固抵抗它,不愿意用。他们会生气,会排斥。而你有机会让AI成为你技能集的核心,成为你未来50年每件事的核心。
走进每次求职面试,带上你的AI作品集:「这就是我用这个技术做的事,这就是我带来的能力。」某些雇主会不在乎,但另一些雇主会说:「这正是我们要找的。」
道格拉斯·亚当斯说过一个很有意思的模式:新技术到来时,15岁以下的人觉得「这就是世界本来的样子」;15到35岁的人觉得「这很酷,我可以用它谋生」;35岁以上的人觉得「这是洪水猛兽,必须被消灭」。
所以:如果你在15到35之间,这是专属于你的历史机遇。我真心有点嫉妒你们。
Eric:你说a16z也在优先招聘AI原住民?
Marc:是的。有一种说法是「公司永远不会再雇用初级员工了,因为AI会取代他们」。我认为完全相反——AI原住民将会以惊人的幅度超越他们的资深同事。一个18岁的AI原住民,加上AI,我们将会看到前所未有的超级生产者。
视频链接:https://www.youtube.com/watch?v=k1z0e7bGzq0
