生物进化和社会进步可类比为在复杂适应度景观中的搜索问题,其计算复杂度取决于性状间的相互作用(上位效应)。随机探索(metis)比精密设计(episteme)更擅长解决高复杂度问题,噪声和多样性反而能加速突破。 ## 1. 适应度景观的计算复杂度 - 进化可视为在基因组空间中搜索最优解的算法,其难度由适应度景观的复杂度决定 - 线性景观(无上位效应)复杂度为O(1),而高度互作的迷宫式景观复杂度达O(eⁿ),需要指数级时间 - 人类视网膜倒置等"次优设计"证明:即使存在全局最优,进化可能被困在局部路径 ## 2. 技术进步中的上位效应迷宫 - 社会创新如AI发展需要多要素协同(GPU→游戏产业→深度学习),类似生物中的视神经+眼球组合 - 激光研发是低上位效应的线性过程,而垃圾处理系统等高互作问题形成复杂迷宫 - 历史证明:19世纪"天才发明"模式不适用现代技术,需要反复的社会-技术协同演化 ## 3. 随机噪声的进化优势 - 基因网络模拟显示:引入随机波动使种群能探索邻近表型,加速找到振荡器等复杂适应 - 噪声将单点搜索变为"云状探索",突破初始无梯度区域的限制 - 类比市场机制:企业随机试错比中央规划更易发现高维迷宫中的可行路径 ## 4. 经验智慧 vs 科学建模 - Episteme(理性建模)适合激光等线性问题,但会在黄金大米等文化相关领域失败 - Metis(文化进化)通过分布式试错应对高上位效应,2500代人类文明摸索出稳定社会组织 - 亚马逊成功源于千百企业的试错筛选,而非其君主制管理结构本身 ## 5. 乌托邦设计的启示 - 复杂社会创新可能像生物振荡器,需要允许局部失败的小规模随机实验 - 绝对理性设计在崎岖景观中必然失败,因无法预判所有要素互作 - 市场价值在于提供"可进化性",但该机制或可移植到非市场系统
进步的计算复杂性:精密的设计总会迷路,而随机漫步反而带来突破?
2026-05-05 13:46

进步的计算复杂性:精密的设计总会迷路,而随机漫步反而带来突破?

本文来自微信公众号: 范阳 ,作者:范阳,编辑:范阳


阿特姆·卡兹纳切耶夫(Artem Kaznatcheev)提出了一个关于生物进化的奇特模型。当一群生物适应其环境时,它们实际上是在解决一个复杂的数学问题(When a population of creatures adapts to their environment,they are solving a complicated mathematical problem):在浩如烟海的可能序列中,寻找那个复制效率最高的基因组(they are searching for the one genome that replicates itself the most efficiently,among a pantagruelian pile of possible sequences)。突变与自然选择的循环可以被看作是解决这一问题的算法。那么我们可以追问:某些进化问题是否比其他问题更难?根据卡兹纳切耶夫的观点,答案是肯定的—某些特征很容易进化出来,而另一些则完全不可能,甚至在行星级的时间尺度上(on planetary timescales)都无法实现。为了区分二者,他定义了一个概念,称之为适应度景观的计算复杂性(the computational complexity of a fitness landscape)。



计算复杂性是计算机科学中的术语,它描述了解决一个给定问题所需的步骤数,且该步数取决于问题的规模(how many steps you need to solve a given problem,depending on the size of the problem)。例如,将包含n个项的列表排序需要多长时间,其作为n的函数是怎样的?(如果方法正确,排序所需的运算次数与n×log(n)成正比,记为O(n log n)。除非你刚好在排序意大利面条,那就只需要n次操作。)那么,在生物进化(biological evolution)中,与之对应的概念又是什么呢?


高山与迷宫


Mountains and labyrinths


为了获得直观的理解,我们可以想象一种只能在两个维度上发生突变(mutate on two dimensions)的昆虫:体型大小和腿部长度。这两者的每一种组合都对应着一个特定的适应度(我们将其定义为传递给下一代的基因组副本数量)。


因此,我们可以绘制一幅二维的适应度景观图,其中红色代表适应度较差,而青蓝色则代表适应度较好:


在中间位置,存在一个体型和腿长的“黄金平衡点”,能让昆虫表现得极其出色。假设我们的昆虫从左下角开始进化;每一代之后,它都会产生一群散布在当前位置周围的变异后代。


由于自然选择的作用,那些最接近中心(即更高适应度区域)的变异个体将获得更多的繁殖机会。如果你不断重复这个过程,昆虫种群就会逐渐沿着梯度攀升,最终抵达这座“适应度高山”的顶峰(the bug population will gradually climb the gradient towards the top of the fitness mountain)。


O(eⁿ)级别的演化


Evolution in O(eⁿ)


“山脉”的比喻其实并不太恰当。卡兹纳切耶夫提供了一个更贴切的类比:适应度景观其实是一座迷宫。让我们来看看另外两个例子:



正如第一个例子(高山模型)一样,这两幅景观图都没有局部极大值(no local maxima),只有一个全局适应度最大值(only one global fitness maximum)。只要你沿着梯度向上爬,理论上最终都能到达顶点。区分这两个景观的关键在于,当我们增加维度时它们会如何表现。


我们不再仅仅考虑体型和腿长,而是允许昆虫改变颜色、长出犄角、利用天空的偏振光作为指南针,或者采取任何昆虫在进化过程中能想到的古怪生存策略(我们都知道,昆虫在进化方面极具创意)(bugs can get very creative when they evolve)。随着我们考虑的维度增多,上述两个景观会变得截然不同。



这里最关键的因素被称为上位效应(Epistasis):如果你同时拥有两个不同的突变,它们带来的效果是否等同于分别拥有这两个突变的效果之和?例如,单纯拥有视神经没什么用,单纯拥有一个孤立的眼球也一样。但如果你同时拥有两者,你就能看见东西了。因此,眼球和视神经之间存在着强烈的上位效应。


对于左侧的景观,两个维度是相互独立的(没有上位效应)。你在体型上取得的任何进展,都简单地累加到你在腿长上取得的进展上。对于左侧这个完全线性的梯度,一个新突变要么落入空间中较好的那一半,要么落入较差的那一半,因此至少产生某种“进步”的概率是1/2(so there's a 1/2 chance there is at least some progress)。这个概率不会随着维度的增加而改变,仍然只有一个好的方向和一个坏的方向,而且两者概率相等。因此,找到更优突变的概率与基因组大小无关,这个演化问题的计算复杂度是O(1)。


现在来看右侧的景观。在这里,处处都存在上位效应(there is epistasis everywhere),形成了一条蜿蜒穿过平面的狭窄路径。当虫子繁殖时,只有一小部分突变能带来“进步”。另一部分突变会导致倒退,而所有其他突变则会使它偏离这条路径,走向不可避免的灭亡。随着维度的增加,你会得到一个如同蔓藤怪一般扭曲缠绕的适应度景观,从一个维度扭转到另一个维度,再扭回来(add more dimensions,and you get a tangela of a fitness landscape twisting and twining from one dimension to another and back)。随着基因组大小的增加,仍然留在路径上的突变比例会呈指数级下降,变得越来越小(注1)。换句话说,其复杂度是O(eⁿ)。即使没有局部适应度最大值,要到达适应度最优值也几乎是不可能的,哪怕再过数十亿年也做不到(Even if there are no local fitness maxima,it's basically impossible to reach the fitness optimum,not even in billions of years)。


还记得视神经和眼球的问题吗?曾几何时,人们认为这种复杂度仅靠自然选择是无法实现的,中间一定有某种“神迹”干预(probably some divine intervention somewhere)。现在,我们对眼睛的进化过程有了清晰的认识,但这确实是一条极其迂回的路径,甚至最终只带我们走向了一个古怪的适应度最优值—比如人类那种视网膜倒置的眼睛(it only led us to a weird fitness optimum where the retina is inside-out)。


范阳注:这篇文章讲述了眼睛的进化历史和假说The Imperfect Eye


http://nivea.psycho.univ-paris5.fr/FeelingSupplements/ImperfectEye.htm


这篇文章里的精彩观点:“有趣的是,胚胎学似乎反驳了人们常说的“眼睛是大脑的直接延伸”这一观点。相反,更合理的说法或许是:大脑实际上是眼睛的直接延伸!因为从系统发育来看,大脑比眼睛更晚出现,原始动物有高度发达的眼睛,但几乎没有什么大脑。例如,在家蝇中,眼睛高度发达且专门化,但“大脑”仅由几个将眼睛连接到控制腿和翅膀的肌肉的神经站组成。”



在生物进化中,我们没法选择算法,其核心永远是“随机变异+自然选择”那一套老法子(always the good old random selection+natural selection procedure)。然而,我喜欢做的是将我们从进化中学到的经验应用于人类的进步(apply what we learn from evolution to human progress)。在这种思维下,我们或许有机会选择最优的算法,去穿越那座复杂的迷宫(we may even have a chance to pick the best algorithm to navigate the labyrinth)。


通往乌托邦的迷宫


The maze to Utopia


正如生物进化中存在上位效应一样,社会与技术的进步中也存在类似的现象(there is epistasis in social and technological progress)。如果没有垃圾清运系统,建立填埋场就毫无意义;而如果没有地方处理垃圾,垃圾清运也毫无益处。这一切的前提还得是人们拥有垃圾桶并且愿意使用它们。因此,垃圾处理问题的解决过程,至少在某种程度上是具有“迷宫属性”的。


我认识的许多生物技术领域的人,似乎仍持有19世纪式的那种幻象:一位天才计算出所有方程,创造出一项发明,然后大赚一笔。然而,现实生活中的技术进步远没有那么可预测(Real-life technological progress is less predictable):重大的变革往往需要在发明者与世界其他部分之间进行多步、反复的互动(major changes take multiple steps of back-and-forth interaction between inventors and the rest of the world)。新发明改变了经济模式,而经济模式的改变又为更多新发明开启了大门。


我脑海中一个典型的例子就是人工智能的发展,以及所谓的“AI寒冬”。当时的情况并不是人们没有尽全力去寻找解决进度停滞的方法;他们努力了,但那些尝试都石沉大海。然而,正当所有人都准备放弃时,事情却演变成了这样:


廉价CPU→电子游戏→产生对高质量图形的市场需求→廉价显卡→并行计算→基于GPU的深度学习→AI开始写说唱歌词(注2)。


(cheap CPUs→video games→market for good graphics→cheap graphics cards→parallel computing→GPU-based deep learning→AI writing rap lyrics)


我刚刚获得了DALL·E-2的访问权限,所以很高兴能为你献上这张画:一只穿行在迷宫中的青萝卜(a turnip walking through a labyrinth)。


为了实现这一点,我们必须在进步的迷宫中做出所有正确的转向,才能最终达到让深度学习成为可能的环境。我们从来都不能百分之百确定一定能走到那一步。我们很容易想象出另一条时间线:第一批电子游戏没有《俄罗斯方块》那么有趣,人们很快就厌倦了,游戏行业从未起飞,神经网络也从未出现。如果进步的景观足够曲折,有些可能性就永远无法实现。


(另一个例子:黑格尔→马克思→斯大林→核威胁→阿帕网(ARPANET)→互联网→智能手机→更好的锂电池→电动滑板车。)(注3)


另一方面,想想激光(lasers)。激光的研发史是一个令人叹为观止的故事,它凝聚了大量心血和一连串天才构想(The development of the laser is an incredible story that took a lot of work and a long series of genius ideas)。你得先解决黑体辐射问题(black-body radiation problem),然后提出量子力学(quantum mechanics)、受激辐射(stimulated emission)、氨分子微波激射器(the ammonia Maser),接着做出第一台激光原型机,并将其转化为可以量产的产品,这样你最终才能在阿里巴巴上买到那种能射出旋涡状光束的5美元激光笔。这确实很难,但它是直截了当的—每一步都从逻辑上从前一步推导出来(every step followed logically from the previous one)。据我所知,通往激光的这条路径并不依赖于任何其他的经济进步。任何对开发激光感兴趣的智慧物种,只要能付出相当大的努力,大概都能做到。


这让我思考:有多少简单、廉价、极其有效的小玩意儿,我们完全有能力发明出来(all the simple,cheap,incredibly effective gadgets we would be perfectly able to invent),却因为通往它们的路径只是从未发生而永远无法见到?也许真的存在一种让医生恨你的减肥怪招,但它需要垃圾收集系统、生日习俗和洋葱贸易法规(onion trading legislation)以某种正确的方式组合在一起。也许在那条没有神经网络的时间线上,“犁头和平核计划”(Project Plowshare)反而取得了巨大成功,谁知道那个世界里的青少年们在搞什么鬼。(不过我们这条时间线上的抖音,美颜滤镜更好用就是了。)(Our version of Tiktok has better beauty filters,though)


延伸阅读:当比尔·盖茨在1994年听到神经网络


世界模型与经验智慧


Models and metis


在Samzdat的经典文章《乌鲁克机器》(The Uruk Machine)中,作者对比了两种截然不同的进步算法:传统的“经验智慧”(metis)及其替代者—现代的“科学知识”(episteme)(也叫认识论)。


注:The Uruk Machine


https://samzdat.com/2017/08/28/the-uruk-machine/


詹姆斯·斯科特在《国家视角》(Seeing Like a State)中定义,Metis基于文化进化(cultural evolution)。人们延续传统并尝试新事物,但对于所做之事的因果关系并没有清晰的认知。最终,成功的做法会被所有人采纳。结果就是一种复杂的文化体系,充满难以解读的传统,却与本地环境高度契合。没人知道它们运作的原理,因此,试图用理性手段去改进它们的尝试通常都会失败。Episteme则恰恰相反:人们拥有一个清晰的世界模型,并基于这个模型来优化世界。


激光的发展处在一个“低上位效应(low-epistasis)”的进步地形中,因此认识论(epistemic)方法表现得非常成功。相反,神经网络则处在一个“高上位效应(high-epistasis)”的迷宫中,人工智能的发展看起来更像萨满术,而非理性工程(the development of AI looks more like shamanism than rational engineering)。这或许并非巧合:当进步地形是平滑的,你可以独立测试小模块,然后将其组合成复杂系统,并且它确实能运行。但在崎岖的进步地形中,episteme很可能会失败(On rugged progress landscapes,however,episteme will probably fail)。你的理性计算可能是正确的,但当一切要素之间都存在强烈的相互作用时,总会有你无法预见的因素,最终让你偏离路径,跌入深谷(Your calculations may be correct,but when everything has strong epistasis with everything,there is always something you couldn't plan and you end up falling off the path,to the ravine)。


也许这正是像“黄金大米”这样的转基因项目所面临的问题:从逻辑上看,它似乎是一个完美的解决方案,可以防止人们因维生素缺乏而失明。但你随后进入了食物的领域,而食物有着悠久的纯“经验智慧”(metis)传统,所以人们可能只是单纯地决定不想吃颜色不自然的米饭。解决后半部分问题的路径将变得更加不可预测。


如果你读过今年ACX评论大赛冠军、埃里克·霍尔(Eric Hoel)对《万物的黎明》(The Dawn of Everything)的评论,你或许会记得“智人悖论”(Sapiens Paradox):为什么解剖学上现代的人类花了5万到20万年才采用正式的社会组织?我最喜欢的解释是:因为找到一种真正可行的组织形式,本来就需要非常长的时间(because finding an organization that works does in fact take a lot of time)。


想一想你家乡的传统文化。从理论上讲,有多少同样古怪的文化是可能存在的?比如,拜火教徒(祆教徒)(Zoroastrians)通过共同相信罪犯死后会进入一个“臭风之地”,而不是芳香之地,从而抑制犯罪。这确实是一种可能的解决方案。但对于一个成功运作的文化来说,有多少文化注定会失败?比如:要求所有青春期男性跳入火山来决定帮派领袖的文化;认为毒芹看起来很美味的文化(你无法证明它不是);规定必须在10岁前自杀才能进入无限天堂的文化,等等。


可能存在的文化空间是如此庞大,而其中真正稳定的比例又是如此之小,以至于5万年听起来也并不算太长。毕竟,5万年仅相当于2500代人(以20岁一代计)。如果部落的总数很少且人们寿命较短(因此无法见证长期过程),那么他们在这么少的尝试中就能摸索出宗教之类的东西,这其实非常惊人。蚂蚁在处理这类事情上表现得极其出色,但它们拥有超过1亿年的时间来完善它们的管理实践(而且它们的世代周期要短得多!)。


但是等等,也许有一种方法可以加快进程。一如既往,其他生物远在人类之前就想到了。


模糊的边界


Blurry walls


让我们回到纯粹的演化生物学。生命世界中充满了各种振荡器,比如昼夜节律、植物根部的回旋运动,或者你的心跳。最近Lin et al.的一篇论文试图解释这些振荡器是如何进化出来的。于是他们对基因网络进行了模拟:当某个基因以固定节律开启和关闭时,个体更有可能繁殖。经过一段时间,这些虚拟生物最终开始表现出振荡行为—但这个过程非常缓慢。


下面是论文中的一个适应度景观图,展示了一个生物体的振荡效果如何随基因回路中两个参数的变化而变化(a fitness landscape from the paper,showing how well an organism oscillates as a function of two parameters of the genetic circuit):



图中这些蜿蜒曲折的线条,是从景观中不同起始位置开始演化的种群。问题在于,它们一开始都位于完全没有振荡的区域,因此不存在可以“攀爬”的梯度。它们唯一能做的,就是在这个景观中随机扩散,直到偶然进入一个自然选择能够发挥作用的区域。这就像前文所说的从迷宫路径上跌落:一旦偏离轨道,在重新偶然找到路径之前,你根本不知道该往哪里走(falling off the path of the labyrinth in the previous paragraphs:once you're off the track,you can't know where to go until you find it again by chance)。


于是,Lin及其同事在这些基因回路中引入了随机波动(random fluctuations)。直觉上,我会认为随机噪声会让构建一个可工作的振荡器变得更困难,因为它会降低系统的可靠性。但实际情况却恰恰相反:



这是怎么回事?当没有波动时,种群中的所有个体都停留在适应度景观中的同一个点上。但随机性会让不同细胞围绕平均表型“扩散”成一小团“云”(But randomness causes different cells in the population to spread out around the average phenotype like a little cloud)。这使得它们不仅能测试平均表型,还能探索其周围的邻近表型。如果其中某个邻近表型表现明显更好,那么整个种群在统计上就会获得优势,从而繁殖得更多。接下来,它们就有更多机会找到能够真正产生这种更优表型的突变。在这些模拟中,引入随机性相当于“模糊”了适应度景观,使其更容易被探索和导航(adding randomness blurred out the fitness landscape,making it quicker to navigate)。


将这一点应用到“进步”的问题上,我们又回到了metis(经验智慧):与其制定一个通往乌托邦的宏大统一计划,不如让许多局部的小型组织形态并存,各自朝着随机的方向进行微小尝试(instead of having one grand unified plan for Utopia,we have many tiny local modes of organizations,each trying out little changes in random directions)。


有时,其中一个会实现成功的变革,其余的便会效仿。在局部层面上,这些变革中有许多可能是有害的,但总体而言,它使得找到复杂、不可预测的成功之路变得更加容易(but overall,it makes it easier to find intricate,unpredictable ways to succeed)。换句话说,episteme(运用科学知识的理性建模)可能在短期内更高效,但metis(运用经验智慧)更具“可进化性”(evolvability)。


这也许是市场有时能带来令人惊讶的良好结果的原因:市场虽然大多基于科学知识理性建模(markets are mostly based on episteme),但它们仍允许大量“噪声”的存在。有些人会尝试一些并不完全符合商学院教条的随机行为。如果他们成功了,其他公司就会模仿其策略。如果他们获得极大的成功,其策略最终会走进商学院的课堂。糟糕的组织会自然衰落,而成功的组织会被所有人效仿。


当然,其反面就是由一个中央权威机构通过线性规划计算出最优政策,并将其在所有地方统一强制执行。对于像发射卫星这种低上位效应(low-epistasis)的任务,这可能极其有效,但只要景观变得崎岖,它就会惨遭失败。这种中心化计划的任何一次失败,都意味着整个系统的崩溃。如果你读过孟修斯·莫德布格(Mencius Moldbug)的作品,你会发现他反复强调:资本主义公司都是微型的绝对君主制(capitalist companies are all little absolute monarchies),CEO就是整个王室(CEO as royalty),所以如果我们想让国家像亚马逊(Amazon)一样高效,我们就应该回归君主制。我认为他完全搞反了:亚马逊之所以成功,并非因为这种公司制度本质上有多好,而是因为曾有过成百上千个潜在的“亚马逊候选者”尝试了略有不同的做法。其中一个成功了,而许多其他的都倒闭了—我不希望这种事发生在国家身上。


在某种程度上,这既是支持也是反对市场的论点:如果市场的成功源于更好的“可进化性”,那么也许可以只提取这一特征,并将其加入你最喜欢的非市场乌托邦中,从而在避开市场弊端的同时获得其优势。你能设计出一个“可进化的集体农庄(kolkhozes)”系统吗?我把这个当作留给马克思主义读者朋友们的课后作业。


又或者,关键在于这种系统根本无法被“设计”出来(such systems cannot be designed)—它们隐藏在迷宫最难以抵达的角落。可能文化的空间中确实存在着永恒和平与普遍之爱的乌托邦(utopias with eternal peace and universal love),但它们对人类来说过于不可思议,以至于我们永远也无法构想出它们。


总结


Summary


1.在进化过程中,适应度景观的“计算复杂度”可以不同,这取决于它有多像一座迷宫(In evolution,some fitness landscapes may have lower or higher computational complexity,depending on how“labyrinthic”they are)。


2.较高的计算复杂度源于不同性状之间的相互作用(上位效应)(Higher computational complexity is due to traits interacting with each other)。


3.类似地,一些社会和技术创新的路径可能是直接清晰的,也可能必须先经历某些不可预测的条件才能出现(the road to some social and technological innovations may be straightforward,or require the right unpredictable circumstances to emerge first)。


4.episteme(运用科学知识理性建模)更适合处理低复杂度问题,而metis(经验智慧/文化进化)则能够在更复杂的“迷宫”中找到路径。


5.一些生物系统可以通过降低自身的稳健性来加速进化,因为噪声使它们能够探索当前状态附近的空间。这一点也对“乌托邦设计”产生了启发。


感谢Justis Mills对草稿的反馈。


注释


1.如果你对高维空间不太敏感,可以想象一个格点结构:在一维中,你有2个邻居;在二维中有8个;在三维中有26个,以此类推。如果只有一个邻居通向“进步”,那么随着维度增加,错误路径的数量会指数级增长。


2.“告诉那帮兄弟,我从不食言,兄弟。”那位“最大化金句输出的超级智能”说完,便把太阳系的最后一个原子变成了一个可以“麦克风落地(mic drop)”的道具。


3.这个时间线同时也是这样一个世界:

AI原生产品日报频道: 前沿科技
本内容来源于网络 原文链接,观点仅代表作者本人,不代表虎嗅立场。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。
正在改变与想要改变世界的人,都在 虎嗅APP
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定