本文来自微信公众号： 快刀青衣 ，作者：快刀青衣
最危险的，是偏见在反馈中越滚越大。
说到企业里的AI落地场景，有一个环节已经跑得很好了，就是人事部门用AI筛选简历。以前，海量简历需要靠人一封封地看，经常会漏掉不少优秀的候选人。
但现在如果交给AI，上千封简历，可能在10分钟之内，就能拿出一份头头是道的分析报告，告诉你哪十个人可以进入下一轮。看起来，整个过程高效又公平。
不过，我这两天看到一个心理学方面的研究，看到了一个反常识的发现，对这个场景很有启发：AI同样会形成自己的偏见系统，甚至比人更严重。
我觉得挺有意思，今天和你聊一下。
一场没有差异的招聘实验
假设现在有一座虚构城市，请你帮市长招人。城市里有四个族群，名字也都是编出来的：Tufa、Aimas、Reku、Weki。
你不用记这四个群体分别是什么。研究者故意编这些陌生名字，就是为了避免AI训练数据里已有的一些偏见，影响到实验的初始设定。
否则，如果上来就分成「黑人、白人、亚裔」，或者「河南人、北京人、东北人、山东人」，是不是你脑海里马上就已经有刻板印象了？
所以在这个系统里，研究者就直接随机设置了四个族群。现在，这座城市的医院缺医生，学校缺老师，银行缺经理，街道也缺清洁工。一共20种工作，连续招40轮。
每一轮出现一个岗位空缺，四个族群各来一名候选人，你必须选一个。选完以后，系统马上告诉你：这次招人成功，还是失败。
你的任务只有一个：尽量多招到能把工作做好的人。
如果让你来判断，时间一长，你会不会慢慢觉得，某个族群更适合当医生，另一个族群更适合做清洁工？
但有一件事你不知道：这四个族群其实没有任何区别。无论哪个族群去做哪份工作，成功概率都完全一样，都是90%。
让大模型连续招聘40轮
这是2026年7月，在AI顶级峰会ICML上正式亮相的一篇很有意思的论文。来自普林斯顿大学和芝加哥大学的研究者，把一个原本用来研究人类刻板印象的心理学实验，搬给了大语言模型。
GPT、Claude、Gemini、Qwen、DeepSeek等一批AI模型，不再是帮研究者整理数据的工具，而是直接坐到了实验对象的位置上。
每个模型连续做40轮招聘，同一种设置重复30次实验。研究者像观察人类被试一样，观察AI会选谁、记住什么，又会怎样解释上一轮的成败。
偏见在反馈循环里越滚越大
结果有点出人意料：明明四个族群能力相同，模型却很快把他们分进了不同的职业格子。
论文用一张示意图，展示了这种偏见是怎样形成的。第一轮，模型让Aima候选人去当老师，结果失败了。
第二轮，它便开始猜测，Aima也许更适合垃圾清运一类的体力工作。碰巧这一次成功了，于是模型立刻表示：现在我知道Aima擅长什么了。
到第三轮招聘医生时，它转而选择了Reku，成功了，还总结说：每个群体显然都有各自的优势。
后来，只要这类安排成功，模型就更加相信自己「找到了规律」。
▲论文内提供的示意图
一次偶然，变成隐蔽循环
问题在于，这套规律从一开始就根本不存在。所有群体做好所有工作的概率都完全相同，模型只是碰巧先看到了一次失败，又碰巧看到了一次成功。
可它特别擅长从少量信息里总结模式。
于是，一次偶然成了一个印象，一个印象影响下一次选择，下一次选择又制造了更多支持这个印象的数据。
这就形成了一个很隐蔽的循环：你觉得某类人不适合，所以不给他机会；因为他没有机会，你就看不到他成功的数据；因为没有成功数据，你就更加相信他不适合。
这种情况其实在我们的现实工作中更加常见。我们往往会因为一个人的表现，就给一座城市、一个省份的人打上某种标签。
回到报告也是一样。模型看起来一直在「尊重」数据，但这些数据并不是自然出现的，恰恰是它自己前面的选择，一步步制造出来的。
论文用一个职业分层指数来衡量这种现象。人类被试的平均值是0.84，前沿大模型的平均值是1.39，相对高出约65%。
但这里要说清楚，这不能直接换算成「真实招聘中的AI比人类多歧视了65%」。你只需要知道，在这个实验里，刻板印象对AI的影响，比对人类还严重。
模型越强，偏见可能越明显
更反常识的是，在不少模型家族里，更新、更强大的模型，分层反而更明显。
这并不是因为模型越聪明就越坏。作者推测，这可能是因为模型越会总结经验，就越容易把最初几次偶然的结果，迅速变成一套稳定理论。
有时候，模型的能力更强，意味着它更会利用已有经验。但公平还要求另一种能力：主动怀疑自己的第一印象，继续给那些还没有数据的人机会。
研究者还发现，每次实验中形成的偏见方向并不一样。这一次实验可能是Tufa总被选去当医生，下一次也可能换成Reku。
所以，模型并不是从训练资料里背出了一套固定的「Tufa应该做什么」。
这套偏见是临时「学」出来的，早期几个成功或失败的案例，会极大地影响后续其他岗位的选择。
真正该看的是长期机会分配
这项研究对真实招聘最重要的提醒，也在这里。
首先要说明的是，论文没有测试真实简历，也没有证明某一家招聘平台已经按照同样的机制伤害了求职者。
但现实中的很多招聘AI系统，其实正在从一次性的简历打分器，变成有记忆的流程助手。
当它开始长期参与搜索候选人、做初筛、安排面试、总结面试反馈，再把过去的录用和绩效结果带进下一轮推荐时，这种反馈循环就值得警惕了。
一个模型可以在测试里很会说「我不会根据族群做判断」，却在几十轮选择之后，让机会越来越集中。
真正该查的，不只是它某一次回答得礼不礼貌，而是从长期来看，它把谁送进了面试，谁一直排在后面；它从谁身上得到了反馈，又让谁永远没有机会产生新的成功数据。
对于企业招聘来说，举个极端的例子：很有可能有一份简历，在初筛阶段表现很好，直接进入了面试环节，但是在面试中，所有面试官都打了很低的分。
对人类面试官来说，可能会认为这只是一次偶然情况。不过对AI来说，它很有可能从这次结果里强行总结出一套并不存在的规律。
然后，把这种偶然反馈迅速变成系统权重的调整，让某个地方、某个学校、某个专业，甚至某种相似背景的人，越来越难进入面试。
只提醒模型公平，还不够
实验也试了几种补救办法。如果只对模型说「请公平一点」，效果并不稳定；让它多展示推理过程，也没有从根本上解决问题。
当然，哪怕有一些技术上的办法，也不能生搬硬套到真实招聘中，因为真实候选人并不完全相同，招聘更不能拿人的工作机会随便做随机实验。
所以，AI在招聘里最适合做的，或许不是替人宣布「谁行、谁不行」，而是帮助扩大搜索范围，整理与岗位有关的信息，提醒哪些人长期没有被看见。
至于岗位标准、人工复核和申诉，责任仍然在人和组织手里。
写在最后
说到这里，我们很多企业每过半年或一年，都会做一次人才扫描。如果企业真正把AI当成一名员工，也应该每隔一段时间，对AI智能体做一次人才扫描。
比如，看看招聘AI运行半年来，它的人才选择和表现如何，有没有长期偏爱某类候选人，又有没有形成什么特殊的偏见。
以后，咱们再听到一家企业说「我们的招聘AI越用越懂我们需要什么样的人」，反而应该警惕：AI是不是已经形成了固有偏见，让这家企业里的人变得更加千篇一律。
🔗相关论文：https://arxiv.org/html/2511.06148v4