本文来自微信公众号： 江宁知府 ，作者：印闲生
对于AI智慧的上限，保守派认为当前所谓的“人工智能”本质上只是一个高级统计模型，这意味着从统计学上讲它会出错，依赖人工审核。
更为关键的是，当前的AI较少接触现实世界，而且走上了越来越远离现实的道路——其强项集中在语言、图像和代码三大领域。
以大型语言模型（LLM）为例，它有点像一个文本摘要器，离人类思维过程还很遥远，完成复杂任务需要相当复杂的提示词，且纠正起来很费劲。
客服曾被认为是AI最容易替代的工作之一，但事实上效果很差，只要人们一发现对面是“聊天机器人”，立刻就会要求“转人工”，越来越多的企业HR已明确表示AI无法真正替代客服岗位。
另一方面，AI在某些研究性领域的效率提升也是实打实的，比如药物设计，AI就可以极大提升生产力。
大型语言模型的训练需要难以想象的数据量，训练过程包括抓取、收集、分类和标记各种可能的数据——这些资料几乎全部来自互联网。
如今面临的一个难题是原始数据池已接近枯竭，越来越多AI自己生成的数据被拿来“二次训练”，后者带有近亲繁殖的意思，会导致AI模型“智商”止步不前。
为了解决这个难题，AI公司开始拒绝盲目吸收数据，坚持质量优先原则，对拿来训练用的数据做严格过滤，比如把重点放在已出版的书籍、论文文章和高质量论坛上的资料，同时设置某些检验标准。
然而不管怎样，当“数据池”被用光之际，研究人员必须转向合成数据，否则大型语言模型的发展便会停滞。
这一点对于追赶型AI来说并不困难，它只需要一个更博学的“老师”即可——用AI训练AI已经成为一种广泛且成功的行业实践模式，俗称“蒸馏”。
在蒸馏过程中，那个能力强大的模型（“老师”）负责生成数据、推理和对话，然后用这些数据来训练一个更小、更高效的模型（“学生”）。
不难体会，未来制约AI发展的瓶颈更多是“老师”如何继续提升自身水平，不断寻找新的、有效的数据库，训练过程反而不如AI诞生初期那样重要。
从发展方向上讲，在数学、逻辑和计算机编程等高度结构化的领域，AI生成的数据极其强大，前景广阔。
因为这些领域数据的准确性可以通过代码编译器等工具做客观测试，AI自己就能持续训练，类似于当初的AlphaGo.
AlphaGo的突破并不依赖学习围棋对弈数据，只要设定好一套绝对明确的胜负规则，它可以通过跟自己对弈数百万次来掌握技巧。
即可验证领域将是未来几年AI能力提升最快的方向，而像社会科学、公共政策、商业战略等领域，则属于AI的弱项。
另外，AI在数字世界里进步很快，但在真实物理世界进步较慢，这是因为获取反馈的成本大不相同——物理世界的数据提取与验证相对困难。
下图为AlphaGo的后端机器，当时采用的训练方法远不如今天高效。
目前美国上上下下的宣传也好，资本市场的疯狂也罢，其实是把AI定义成了一项变革性技术，这个故事的前景比马斯克登陆火星还要有吸引力。
历史上的变革性技术很少因渐进式优越而获胜，换言之，AI所产生的效果不能是“改良”，不能是提升了百分之多少的效率，它必须在某个时刻拿出人们“从未见过的东西”。
这对于押宝AI的美国政府、科技大厂以及整条产业链上的企业来说，都是有相当风险的。
随着新鲜感过去，一个高级聊天机器人和图片视频生成器很难满足人们对于未来的想象，2025年全球设计服务与影视产业加起来只有约3000亿美元规模，即便AI最终吃掉了整个市场，所创造的新增价值依然有限。
值得注意的是，在2023至2024年间，OpenAI、Anthropic等公司描绘的愿景更多是“超人工智能”和“通用人工智能”，而目前的AI叙事里这部分内容正显著变少，意味着行业信心不足。
取而代之的概念是“人工智能体”，即AI Agent，其含义是用AI代替你完成工作，目标则瞄准全球每年十几万亿美元的白领工资支出——这个叙事是为老板而非员工所设计的。
在工业自动化领域，因应用场景极其封闭、机械，早已实现了“黑灯工厂”（如上图）。
跟宇树科技的机器人相比，这些机械臂操作起来非常程序化，也不需要探索增加具身智能。
所谓“AI Agent”，很大程度上就是把某些低端白领工作类比为流水线上的机械臂，试图用AI予以取代。
这个前景成功与否，已成为当下AI行业落地的关键。