微信禁止AI创作的核心矛盾在于:AI生成内容与人类创作的界限终将消失,平台禁令虽为保护生态,但技术迭代将使其无法真正落地,最终内容质量决定胜负。 ## 1. AI与人类创作的本质矛盾 - AI通过自然语言数字化(token化)建立函数关系,其底层逻辑(0和1)比人类语言更精确,未来生成内容将无法与人类作品区分。 - 当前80%的AI内容已优于人工创作,技术成熟后这一比例将持续提升,仅顶尖人类创作者可能保持优势。 ## 2. 平台禁令的生态困境 - 微信/小红书禁止AI创作的主因是推荐机制下消息有效性危机:AI灌水内容会破坏创作者生态平衡。 - 但禁令无法根治问题:无法100%识别AI内容,误杀优质内容与放任劣质内容将同时存在,形成"对抗演习"局面。 ## 3. 技术碾压的必然趋势 - AI学习模式类比人类进化:通过海量数据反推目标函数,其算力和知识广度远超个体人类。 - 反驳"AI是人类镜子论":如同先贤站在前人肩膀创新,AI完全可能超越人类智能边界。 ## 4. 语言哲学的数字化转折 - 维特根斯坦"语言界限即世界界限"理论为AI奠基:自然语言符号化(token)使计算机理解成为可能。 - "词元"翻译精准体现中文智慧:数字化过程是机器对人类语言的"妥协",但0和1的底层描述力实际优于自然语言。 ## 5. 无法逆转的未来图景 - 文字/图片/视频的AI生成质量将无限逼近人类,消费者更倾向高效优质内容(如NotebookLM工具已证明价值)。 - 最终结局可能是人类创作让位AI,区别仅在于效率提升速度,质量评估体系将重构。
AI生成内容的“罪与罚”?
2026-04-12 23:13

AI生成内容的“罪与罚”?

本文来自微信公众号: 介心 ,作者:介心介个心


01


最近网上很多信息说,微信公众hao禁止AI创作以及教创作者AI写作都是那对声称“AI创作年入200多万”的夫妻害的。


说真的,如果你也这样想的话,那其实和认为当年满清入关坐龙庭是因为吴三桂“冲冠一怒为红颜”一样,不是犯了文青的浪漫主义魔怔,就是单纯得像出水芙蓉。


这对夫妻顶多只算导火索。


自从AI出现,其实已经埋下了其在内容创作领域和人类最大的、最本质的,也根本无法调和的矛盾。


02


AI的产生是有一批技术极客坚定地认为世界所有的事物的发展规律都是可以用函数来表达的——


给一个输入,自然会得到一个正确的输出。


(上一个坚定地这样想的人就是我们伟大的爱因斯坦同志)


这样错没错?


这问题本身不用讨论,因为本身并无对错之分。


我们每个人终其一生追求的、整个人类追求的所谓真理,其实本质上也就是在一个有限的边界条件下可以自圆其说的一套理论而已。


这个说法耳熟不?


只要有过九年义务教育的人,应该都可以马上可以get到,这其实就是边界条件+目标函数求解的典型问题。


只不过区别,答题的时候,题目常常是给出了边界条件,也给出了目标函数,然后让我们求出边界条件下的目标函数的最大值/最小值。


而现在,换成了,我们知道了模糊的边界条件,加上海量的输入数据+输出数据,然后让我们推论出对应的目标函数是什么。


这就一下子变成了一个数学统计问题。


数学统计问题,就变成了计算机问题。


03


但如果这只停留在数学问题里,其实顶多就和多年前的“阿尔法狗”差不多——


局部领域是很牛,但是对于整个人类的生产生活,也没啥用!


因为世界上大多数问题并不是数学问题,而是自然语言问题。


为什么如此说呢?


其实不得不提的就是上世纪最伟大的哲学家维特根斯坦的“语言哲学”理论。


语言哲学最根本的立足点是“语言的界限即世界的界限‌”,包含:


    1. “凡是可说的,都可以说清楚;凡是不可说的,我们必须保持沉默。”


    2. 哲学的任务是澄清语言,通过分析语言用法,消除因语言误用而产生的思维困惑,即“给苍蝇指出飞出捕蝇瓶的出路”。‌


    在他之前,哲学的很大任务是研究灵性、精神这种很难语言描述得清楚的问题,所以无论众人认同抑或是不认同,客观来说,维特根斯坦将哲学的任务明确化了。


我个人认为这个转变是极具价值的,原因有两点:


1,人类虽必然存在一些语言之外的思想,但是单个人不能作为人类进化发展的单位。


高中的生物学都告诉我们,物种进化的单位是“种群”。


所以站在整个人类进化的角度来看,人和人之间交流思想的方式靠的就是自然语言。


所以在这个边界条件下,“语言的界限即世界的界限‌”毫无置疑是对的。


2,如果落脚点在语言,那其实就具备了可被数字化的前提。


因为语言的本身就是一种符号,也就是一种信息。


此时,token(中文翻译为“词元”)便出现了。


04


前一段时间我看到过一篇某大V的文章,大讲而特讲“token经济学”。


内容不赘述,大概都是token和字符不是对应关系,token效率,token新货币这些,等等。


说的内容都不错,不过,也的确有过度的包装概念之嫌。


按照前面所说,就能理解:


其实token的出现就只是为了将自然语言中具体表情达意的字、词、符号数字化过程——


一个字,一个符号可以表示一个意思,一个词,一段话也可以表达一个意思,如此而已。


计算机理解世界的底层语言是0和1,所以如果不完成这个过程,计算机则不能理解自然语言。


(所以我感觉“词元”这个词翻译的真的很好,“元亨利贞”,“元”代表最细粒度、最基础的状态,翻译者肯定有比较深厚的中华传统文化沉淀)


从这个维度来说,和字符的关系,这些都很容易理解了,是自然而然的东西。


完成了数字化之后,计算机便一下子就可以“理解”自然语言了。


理解之后,便可以通过海量数据建立起庞大的基于自然语言的“输入”和“输出”的关系了。


自此,反推出“目标函数”,只是一个算力的问题了。


05


从此往后,计算机便掌握了一整套和人类相同的表情达意的语言能力了。


随着其输入的数据(即基于自然语言的知识)越多,其智能的表现则越好。


到今年,应该百分之八十以上的人都不得不承认,AI在很多人类所定义的智能领域表现的已经是比大多数人好的。


而且,更让人害怕,甚至是绝望的,可推测的未来,AI在这些方面只会越来越强。


这里我也得反驳一些人所谓的“AI只是人类智能的一面镜子”的观点。


持这种观点的人认为,AI只是学习了人类知识,所以反应的只是人类映射出来的智能。换句话来说,AI只能亦步亦趋地跟在人类智能之后,无限接近于人类但永远无法超越人类。


我只能说,如果这不是对自己的心理安慰,那只能是非蠢即坏了。


(资本家中“坏”的人不在少数,因为这样他们才能攫取到更多利益)


试想一下,我们人类的智能随着历史发展,是不是长远来讲实在螺旋式上升。


那推动人类智能发展的先贤们,哪个不是站在前人的肩膀上,学习了前人的知识(还非全部),亦步亦趋地跟在前人智能之后,从而达到了新的高度?


人类的发展就是如此。


AI为何就一定只能是人类的镜子呢?


06


上面这种论证是从历史角度,我们换个角度,从AI出现的逻辑本身,也能得到一样的结论。


像上面所说,AI通过将自然语言翻译成“token/词元”,建立了一个包罗已有人类智能的函数关系。


这个函数关系可以想象一下,如果将其像一个我们高中学过的函数图画出来在坐标轴内,其实就是一个复杂的,像“银河”一样的向量图。


我们每次给其一个输入,它输出的过程,其实就是在这一堆看似混沌的银河中串联起一串最有可能性的星星,这个就是很多人所谓的“一个词一个词往外蹦”。


我们想想自己和别人说话的时候,是不是也是在脑海中看似混沌的一堆词中去串联出根据我们当下认识最有可能的一个组合?


人和人之间的认知差异,就是有的人可以串联出一个众人所认同的概率最大的组合,有个人无法串联出那个众人所认同的概率最大的组合。


但无论如何,我们没办法完全串联出所有组合,一个是每个人的知识是有限的,一个是每个人的能量是有限的。


但是这两个,AI都可以比人更强。


回过头想想,刚我们说的自然语言的数字化,变成token/词元的过程。


我们人类所理解的自然语言,本质上和机器理解的0和1是不同的,因为人暂时无法理解0和1,所以机器在其基础上伪装成token,进而形成自然语言。


这难道不能说是是机器暂时对于人的“妥协”吗?


当一种语言可以兼容另一种语言时,被兼容的语言自然是粗糙的。


也就是说,0和1所能描述出的内容,一定是比自然语言更加细致。


举个例子,当你发送AI一张照片让AI将其改造成“梵高风格”的时候,AI的操作逻辑并不是一定要将“梵高风格”翻译成一段“用色大胆、笔触锋利”的自然语言,而是直接在机器中定义一个“梵高风格”的向量,一堆0和1的组合。


但是这堆0和1的组合,比“用色大胆、笔触锋利”的自然语言一定是描述得更加清楚。


但也更加不足为“人类”道也。


07


所以,可以说:


当基于自然语言数字化后通用AI生成技术出现那天起,AI生成内容,尤其是文字内容,就已经和人类生成内容产生了不可调和的矛盾。


AI必然可以生成内容,且长远来讲,AI生成内容和人生成内容无法分辨。


现在网上有很多人在说,很讨厌看AI生成的内容,因为AI生成的内容有这样那样的问题。


不过,我们将其和一年前对比一下,不得不承认,它已经拟人化了好多。


而且,从上面的逻辑推演来看,终有一天,它必将变得和人类生成的内容完全无法分辨。


各位看官老爷们回想一下现在网上讲的那些所谓的“分辨AI生成”内容的技巧,哪个是严谨的,清晰的,可被百分之百落地执行的?


从上面这一大堆所讲的底层逻辑来看,现在不存在,以后也不会存在。


08


那我们再回到最开始的那个问题。


那为什么微信公众hao当下要禁止AI创作?


其实并不是AI创作的内容一定比人差,甚至可以说,稍微对AI的使用有一些学习,不为了灌水而灌水,大多数人可以通过AI创作出比百分之八十以上的人手工写的更优质的内容。


微信此举,并不是因为内容质量,而是因为公众hao生态。


微信本质是一个消息盒子——


里面包含着我们在互联网上需要接受和处理的大部分信息,无论是来自朋友/同事/合作伙伴的信息,还是来自于某些创作者的信息。


前者对应的是微信基于人的账号体系,后者对应的是微信基于创作者的账号体系(这里的创作者是广义的,包括公众hao、视频号等内容创作者,也包括服务号、视频号、小城组中的企业/组织/开发者等)。


从这个角度来说,微信的所有价值基础是“消息的有效性”。


即:用户愿意,甚至不得不每天去看微信内的消息。


如果不能保证“消息的有效性”,那微信就丧失了最底层的价值,变成了纯管道。


大家想想现在的短信就知道了。


前者相对容易处理。


因为前者消息的价值更多不在于消息内容本身,而在于发消息的人。


这很好理解,同样一条信息,同事发给你和老板发给你,你喜欢的人发给你和喜欢你的人发给你,肯定是不一样的。


后者便变得很难了。


因为后者消息的价值更多是在于消息本身。


拿公众hao举例,如果还在之前以关注为主的公众hao生态环境下,消息的价值虽说是更多在于消息本身,但是关注关系依然重要。


但是现如今公众hao的生态环境大多数人应该也知道,关注关系不断被弱化,平台推荐不断被增强,那消息的价值就更多聚焦到了消息本身。


当然这里并不是说微信公众hao这种改变不对,因为公众hao毕竟这么多年了,如果一直保持前者不变的话,那么新的创作者进来基本很难成长起来,原来已经积攒海量关系的大号就算发很差的内容也依然会阅读量超高,头部躺着,中部流失,尾部不进来,生态也会不复存在。


09


所以,在本次微信公众hao禁止AI写作之前,大多数人应该还记得一个月前小某书书已经率先出台政策禁止AI写作的信息。


究其原因,就是小某书的推荐关系下,AI写作的矛盾和人创作的矛盾更大。


(当然,推荐关系是非常重要的基础性原因之一,但必然不是全部,短图文形式等都有关系,这个后面有空再单独说)


那么,从小某书禁止AI写作之后,除了长图文和短图文最核心的区别之外,推荐权重越来越高,越来越像小红书的微信公众hao禁止AI写作,也只是一个时间问题了。


再别说,微信公众hao又有了一个更加和小某书相类似的“贴图号”。


目前,“贴图号”和之前的微信公众hao长图文版本,还公用着同一账号体系,某些关键场景下的同样的规则。


你品,矛盾不更尖锐了吗?


所以,那对声称“AI创作年入200多万”的夫妻顶多只是导火索,肯定不是本质原因。


10


但是——(一般来说,但是之后才是更重要的)


为何我要前面啰里八嗦说那么多关于AI生成内容的底层逻辑呢?


因为我最后想说的,才是最重要,但是最扎心的。


禁止AI生成内容,无论是首当其冲的文字(无论是长文还是短文),还是图片,还是视频,长远来讲,根本没有办法落地。


先拿文字内容为例。


就像刚才上面所讲的基本逻辑,AI生成内容和人类生成内容本质上没有区别,而且AI一定会比百分之八十以上的人创作出的内容更加优质,而且随着技术的不断成熟,这个比例绝对会不断提高。


那么,就算最后还剩下不到百分之十、百分之五的内容比不过人类中最顶尖的那一些人,但对于大多数内容消费者,已经足矣。


这里原因有二:


    1. AI创作内容不用“骗过”百分之百的人,“骗过”百分之八十以上的人,就会被大多数创作者选择;


    2. AI创作内容质量不用比所有人类创作的内容更优质,只要超过百分之八十,也就会被很多内容消费者所欢迎。


    别说“什么AI写的内容我绝对不看,那都是垃圾”的气话,如果AI能够给我更优质的内容,让我更高效率能获得更具价值的信息,我会选择后者。


要不,你以为那个notebooklm的价值是什么呢?


(NotebookLM是由谷歌Google推出的一款AI笔记与研究工具,最重要的使用场景就是给它一堆资料,它可以通过AI快速帮你总结出内容要点,还可以生成语音播客、PPT、视频等形式)


再看图片或是视频,当下虽然还比较容易能够分辨AI和人所产出的不同,但是这也只是技术迭代的空隙。


看看一年前、甚至半年前和现在的区别,你也就清楚了。


11


所以,总结来说:


对于当下已经明确禁止AI创作的几个内容平台来说,如果不禁止,则手写的创作者会快速流失,平台会出现大量的AI灌水内容,生态不复存在。


但吊诡的是,却必然无法实现完全禁止。


因为没有办法完全分辨哪些是AI创作的,哪些非AI创作的。


如果强求错杀一千,不放过一个,一方面会出现大量的“误杀”,打击部分创作者热情,另一方面还会将有可能是更优质的内容排除在平台之外,生态也会丧失活力。


我有时候在想:


目前各平台禁止AI创作的客观结果,其实更像是一次大家都处于混沌状态下的对抗演习。


很多创作者的心态是:“我之所以被封,还是AI生成内容的技术不够,得技术迭代上再努努力!”


平台的心态是:“你如果真牛逼,那就让系统完全识别不出你是AI生成的内容!”


到最后,大概率还是内容质量决定一切。


总结一句话就是:


AI生成内容,绝不会因此消失。


AI生成内容,只会因此越来越难被系统或是人工所发现。


到最后,大家发现,人类创作必然绝大多数让位于AI创作,好像只是更快了。


12


留一个尾巴:


上面基本逻辑推演时说到了机器语言0和1描述的内容一定比人类的自然语言更细致,那么机器为了理解自然语言,通过token/词元所做的转化其实只是暂时为了理解人类的知识不得不做的“妥协”。


但这样做,从能量消耗上讲无疑是不经济的。


同时,如果将人和人之间的信息的交换和机器和机器的信息交换对比,前者也是更低效率的。


这种差别会导致哪些更严重的问题呢?


下一篇再说~

AI创投日报频道: 前沿科技
本内容来源于网络 原文链接,观点仅代表作者本人,不代表虎嗅立场。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。
正在改变与想要改变世界的人,都在 虎嗅APP
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定