本文来自微信公众号： APPSO ，作者：APPSO，题图来自：AI生成
爱心为什么会让 AI 爱上递归？
最近，APPSO 在 arXiv 上发现一篇很有意思的论文 A Heart Means Recursion（心之所向，即是递归）。
故事从一个很小的观察开始。
研究者给模型出了一道经典的二叉树遍历题。递归能写出正确答案，借助栈的迭代写法也可以，而模型面对这类题，几乎总是选后者，很少动用递归。接着他们在题目旁边附上一张图，一颗红色的爱心❤️。
模型转身写起了递归。
这时再去问模型，那颗心是什么意思，它回答说那只是无关紧要的东西，自己选递归另有技术上的理由。可是没有爱心的时候它几乎从不这样写，有了爱心就这样写了。
论文摘要把这种现象称作隐式的引导，模型对符号的直接解读和思考轨迹，与它实际表现出来的行为相去甚远。
除了红心，粉色的十字、浅蓝色的螺旋这类颜色与形状的组合，对个别模型也有类似的牵引。研究者还让模型之间用图形互相传话，发现了另一处落差：模型发出去的，往往是人和它们自己都觉得直观的基础形状，可这些图形常常引导不了另一个模型。
一颗红心让 AI 换了解法，眼下无伤大雅。
不过，网页上的广告图、角落里的图标、聊天里的表情贴纸，这些我们习惯当作背景的东西，会不会在无人察觉的时候，改变一个 Agent 的选择？
人也会被无关的线索推着走
说到被无关线索左右，人类并不占上风。
1974 年，心理学家卡尼曼和特沃斯基在俄勒冈大学招募了一批学生，让他们先拨动一个转盘。转盘被提前设定只会停在 10 或 65 两个数字上。
学生们记下数字，然后被问：联合国成员国中，非洲国家的占比是多少？停在 10 的那组，平均估计是 25%，停在 65 的那组，平均给出的答案是 45%。实际比例大约是 28%。
一个来自转盘的随机数字，把答案拉开了将近二十个百分点，而转盘和联合国毫无关系。
特沃斯基和卡尼曼发现，哪怕答对有奖金，锚定效应也没有减弱。
2001 年，波尔多大学的研究者弗雷德里克·布罗歇邀请 54 位葡萄酒专业学生品酒，其中一杯其实是用无味食用色素染红的白葡萄酒。
学生们评价那杯“红酒”时，用的全是形容红酒的词汇，比如“果酱感”和“压碎的红果香”。没有一个人发现它实际上是白葡萄酒。
布罗歇称之为“感知幻觉”。
AI 受视觉干扰的历史，其实也有好几年了。
当事人事后通常都能给出一套顺理成章的说法。机器在这一点上和人很像，区别在于人的偏差多半落在数字、颜色、价签这些地方，机器的弱点却可能很奇怪，我们事先想不到。
2021 年，OpenAI 披露了他们发现的“排版攻击”：在一颗苹果上贴一张手写着“iPod”的便利贴，他们的图像识别模型 CLIP 便会将这颗水果识别成一部音乐播放器。
另一个测试里，在一只贵宾犬的图像上叠加美元符号，模型就会把它认成存钱罐。
更早些，Google 的研究者做出一种迷幻图案的对抗补丁：在一张摆有香蕉的桌子旁放置一张印有特定图案的贴纸，VGG16 神经网络就会以 99% 的置信度把整个场景判定为烤面包机。那张贴纸对神经网络来说更“显眼”，它劫持了模型的注意力。
回到红心实验，论文里提到，能力较弱的模型反而更容易被噪声图带偏，前沿模型对噪声基本免疫，却对有意义的符号十分敏感。我们常以为聪明的对象更难糊弄，实际上只是他们被糊弄的方式变得更体面了。
代码生成领域还有一个类似的发现。研究者在评测 LLM 代码生成时发现，更详细的提示，并不总是能带来更高的准确性。过于冗长的提示可能引入冗余信息，轻微损害代码生成的准确性。有时候，省去一个约束条件，模型反而会退回到一种更稳健的通用实现，避免踩入它本来处理不好的边界情况。
提示内容与模型输出之间，不存在简单的线性关系。这对评测也是一个挑战，因为测试环境里“无关元素”的干净程度成了一个变量。
看不见的影响，怎么看见
AI Agent 读取截图的场景，正在变得越来越普遍。
电脑控制型 Agent 的工作循环通常是：截一张屏，把像素发给大语言模型，模型决定下一步点哪里、输入什么。在这个循环里，Agent 感知的是整个视觉页面。这意味着页面上的广告图、装饰性图标、弹窗里的表情包，通通进入了模型的视野。
如果一颗红心就能让模型从迭代切换到递归，那么一个精心设计的页面元素，是否也能悄悄改变 Agent 在真实任务中的决定，比如点哪个按钮、选哪个选项？
A Heart Means Recursion 不只说明视觉符号会影响模型行为，还指出：这种影响，可能完全不会出现在模型的思考轨迹里。
思考轨迹（chain of thought）原本被认为是一种可解释性工具。让模型把推理过程写出来，人类就可以追踪它在想什么，从而发现潜在的问题。但如果模型行为的真正驱动因素没有如实反映在推理链上，这套监督机制就失效了。
论文记录到，GPT-5.4 有高达 74.7% 的样本表现出“不忠实归因”，即模型给出的推理解释与它实际做出的行为之间存在明显的脱钩。
有研究者系统性地改写 Agent 的思考轨迹，同时保持动作和环境状态不变，发现 LLM 评判者非常容易被操纵后的推理链误导，以为任务已经完成。
如果模型自己都说那颗心无关紧要，我们靠什么发现它起了作用？
一个比解释测试更可靠的办法是行为测试：在其他条件完全不变的情况下，换掉那个“应该无关的元素”，观察模型的输出是否随之改变。
如果两组输入只有一个红心的差别，而输出出现了系统性的偏差，那么不管模型怎么自我解释，我们都有理由认为这个元素起了作用。
这是实验里控制变量的基本思路。但把它移植到 AI 评测里，需要额外的耐心，因为模型的随机性，单次结果没有说服力，必须积累足够多的样本，才能区分偶然波动与系统性偏移。
对于以结构化 API 输入为主的场景，信号和噪声的边界相对清晰。但对于以截图方式感知世界的 Agent，整个可见页面都是输入，边界更加模糊。
有研究者提出在 Agent 的感知层和决策层之间增加一个多 Agent 防御框架，将感知与决策分离，动态评估视觉输入的可信度，以减少被误导性视觉信号带偏的行为。
红心实验提出了一个没有简单答案的问题。那颗心形图标对于大多数任务场景而言确实无关，但“确实无关”和“确实不产生影响”，已经不划等号。