AI可生成虚拟人物,已商业化应用于多个商业领域,同时也被黑灰产利用制造“幽灵”实施诈骗,倒逼真人验证产业兴起。 ## **1. AI生成虚拟人已形成正经商业化产业** AI虚拟人可模拟消费者、患者、陪审员等角色,帮助企业完成调研、测试、模拟等工作,节省时间成本,已获得资本认可,多家相关企业估值超10亿美元。 ## **2. 黑灰产利用AI批量制造“幽灵”实施诈骗** AI降低了批量操控假身份的成本,美国高校已出现大量AI生成的“幽灵学生”骗取助学金,2025年被阻止的相关欺诈金额超10亿美元;招聘、金融领域也存在AI假身份诈骗风险,Gartner预计到2028年全球每4份求职者档案就可能有1份是假的。 ## **3. 机构被迫加强身份核验,催生真人验证产业** 美国高校已出台法案加强助学金申请审核,部分企业将入职流程搬回线下;主打生物信息验证的真人验证服务兴起,World ID、Humanity Protocol等项目已获得融资,多个互联网平台已接入或计划接入相关服务。 ## **4. 人机边界模糊带来新的身份验证难题** AI“幽灵”故意冒充真人,让线上身份识别难度提升,当前验证方式依赖生物信息,若AI未来可破解此类验证,如何证明“我是真人”仍会是待解决的问题。
AI正在批量制造“幽灵”
2026-08-15 12:42

AI正在批量制造“幽灵”

本文来自微信公众号:字母AI,作者:小金牙,编辑:王靖,题图来自:AI生成


8月第一周,美国时尚集团Tapestry在纽约总部办了第二届AI峰会。Tapestry这个名字不算家喻户晓,但它旗下的Coach和Kate Spade,是很多人都熟悉的品牌。


过去,Tapestry想摸清顾客的喜好,主要靠真人调研。研究人员会给真人受访者发调查问卷、做访谈,有时还会上门看看顾客平时怎么穿搭、衣柜里都放着什么款式的衣服。


而在这次的峰会上,公司的消费者洞察团队展示了一批很特别的“顾客”。


这些“顾客”是Tapestry根据过去积累的消费者调研数据,用AI生成出来的虚拟人物。他们模拟的是美国和中国的年轻消费者,Tapestry准备测试新品、价格或者营销方案时,可以先让他们回答问题,也可以像做焦点小组一样直接和他们聊天,看看年轻消费者可能会有什么反应。


一位记者也在现场和其中一个AI顾客聊了起来。话题从购物一路聊到生活,这个根本不存在的“女孩”甚至告诉记者,自己最近很担心就业市场。


Tapestry旗下的Kate Spade还把这些AI顾客用在了店员培训。店员可以直接和AI“顾客”进行语音对话,练习怎么介绍商品、回应顾客的疑问。模拟销售结束后,AI还会给店员的表现打分。


这些AI顾客从一开始就被当成虚拟角色使用,而同样的“造人”能力,却被用来制造一批又一批见不得光的“幽灵”。


阴暗角落里的AI幽灵


美国高校已经是“AI幽灵”最严重的场景之一。


这几年,美国社区大学里出现了大量所谓的“幽灵学生”。他们其实并不是真学生,而是诈骗团伙用盗来的身份,或者干脆编造一个身份注册出来的账号。学校系统里,这些账号照样有姓名、有学号,也会选课、交作业,看起来和普通网课学生没什么区别。


成功混进学校只是第一步。


为了等到助学金到账,骗子还得让这些假学生真的扮演学生。


于是,这些“幽灵学生”定期登录网课、完成作业、参与课堂互动,必要时还要回复老师。前AI时代要走这条骗钱路,得靠骗子用一个个假身份去操作,现在基本上都可以直接交给AI。


AI让一个人同时操控大量假身份变得容易多了,一个人能同时维持的假身份数量也跟着指数级增加。


规模最大的重灾区之一是加州。2024年,加州社区学院系统收到约120万份欺诈申请,最后确认了22.3万个虚假注册。一些学校甚至出现了假学生把热门网课抢满,真正想上课的学生反而进不去的情况。


至于助学金,那是真金白银被骗去了不少。


美国教育部称,2025年通过加强审核阻止的学生资助欺诈已经超过10亿美元,其中就包括用AI机器人冒充学生的申请。对诈骗团伙来说,一个“学生”只要能顺利撑过学校的审核和一段时间的网课,就有机会换来一笔真金白银。


类似的“幽灵”也开始出现在招聘市场。


今年,美国AI模型评测公司Arena遇到过一名很奇怪的求职者。简历看上去没有异常,面试也能正常进行,甚至一路通过了工程师主持的技术面试。可等公司准备正式录用时,这个人突然消失了。Arena后来怀疑,从简历到面试,他们面对的可能一直都是一个用AI包装出来的假身份。


那就细思极恐了,这个“AI”如果愿意,是可以正式开始上班的,至于“皮下”是谁、“皮下”的人类手底下有多少这样的AI混在职场中,可就不得而知了。


这种事情已经多到让招聘行业开始专门统计。美国信息技术研究和咨询公司Gartner调查了3000名求职者,其中6%承认参加过面试欺诈。Gartner预计,到2028年,全球每4份求职者档案里,可能就有1份是假的。


金融行业里的“幽灵”,有些甚至会先“正常生活”几年,再被拿来骗钱。


早在20多年前就有了一种叫“合成身份”的诈骗手法。骗子会拿一部分真实身份信息,比如社保号码、出生日期,再配上假的姓名、照片和地址,拼出一个现实中根本不存在的人。接下来,这个“人”会去开账户、办信用卡、申请贷款,有的团伙还会先按时还钱,慢慢把信用记录养起来,等额度足够高以后再集中套现。



AI让这套流程简单了很多。以前需要一项项准备的步骤,现在都可以批量生成。就连视频和语音核验,也有AI工具可以帮着应付。


截至2024年底,美国贷款机构暴露在合成身份欺诈中的信用风险已经达到33亿美元。美国信用报告公司TransUnion也把生成式AI列为这类欺诈继续扩大的重要原因。


“AI造人”的正经商业化


而在太阳之下,阴影之外,“造人”已经被堂堂正正的做成了一门生意。


美国AI市场调研公司Aaru,做的就是给企业提供虚拟消费者。


相信大家多多少少都帮别人填过调查问卷吧。


以前一家公司要是想知道某类人会不会买一款新品,得招募真人做问卷、访谈或者焦点小组。Aaru则会根据真实的人口和消费数据,生成一大批年龄、收入、生活背景各不相同的虚拟消费者,再让这些“人”回答同样的问题。


Aaru刚开始找客户时,很喜欢现场证明这些假人到底靠不靠谱。


它会让客户拿出一个已经找真人做过调研、结果也已经知道的问题,再用几十万个虚拟消费者重新回答一遍。


结果证明,研究人员以前用费劲触达真人的调研结果,和如今AI模拟的结果接近,这套东西也就有了说服力。


后来,这些虚拟消费者开始被用到更多场景里。出版社会让他们挑书封,饮料公司拿不同口味去测试,投资机构在收购一家公司之前,也会先看看模拟出来的消费者怎么选。政治团体甚至会拿它测试候选人和政策。


图注:真人与AI对简洁和复杂包装设计的评分对比


到2025年底,Aaru估值已经达到10亿美元。


另一家美国AI创业公司Simile,则对“AI幽灵”的生意有不同思路。


它直接根据真人过去留下的大量回答和资料,给这个人做一个“数字双胞胎”。


以后再有新的问题,不一定每次都要把本人重新找来,可以先问他的AI分身。


美国连锁药店和医疗服务巨头CVS已经把这套方法用到了40多万名真实受访者身上。它拿这些人过去提供的290万份回答生成数字双胞胎,再把AI的回答和真人结果反复对照,部分测试的吻合度最高达到95%。


站在人类的角度,我们每个人的回答其实没有自己想得那么有“随机性”和“偶然性”。


美国老牌民调和咨询机构Gallup也一次部署了1000多个数字双胞胎,用来做政策、企业和社会趋势研究。


资本对这门生意也很买账。今年7月底,Simile完成2亿美元融资,估值达到20亿美元;而就在5个月前,它才刚刚完成上一轮1亿美元融资。


企业愿意用虚拟消费者,最直接的原因还是省时间。传统市场调研一轮问卷或者访谈做下来,往往要花上几周。AI消费者则随时都能问,一个方案改完马上可以再测一遍,也不用每次重新找一批受访者。


Simile的企业客户为此每年支付15万美元到数百万美元。


当然,现在还谈不上彻底不要真人。像CVS这样的公司仍然会继续做真人调研,也得不断拿真实回答检查AI有没有的可信度。只是“AI幽灵”代替面目模糊的大众,这个趋势已经形成。


随着虚拟消费者这门生意越来越成熟,“AI幽灵”也开始被用到更多行业。


今年2月,生命科学咨询公司Lumanity推出AI虚拟角色平台EMULaiTOR,专门给药企生成患者、医生和负责药品报销决策的人。药企可以先和这些虚拟人物对话,测试药品信息怎么说更容易被理解,医生可能会追问什么,患者又会在哪些地方产生顾虑。这套系统正式推出前已经测试约一年,并用在多家药企的实际项目中。


到了法律行业,连陪审员也有了AI版本。


今年6月,美国法律科技公司Courtroom推出AI陪审员和AI法官模拟服务。律师可以在真正开庭前先用“幽灵庭审空间”试一遍,看看不同背景的“陪审员”会有什么反应。


Courtroom称,这套系统的模拟准确率超过90%,已经有美国大型律所和财富1000强企业把它用在产品责任、专利侵权等真实案件里。


请证明自己真的是人


“AI幽灵”进入现实业务之后,人和AI之间的边界越来越模糊。更麻烦的是,黑灰产里的“幽灵”还在故意冒充真人。


学校、公司和网络平台因此不得不重新解决一个很基础的问题——怎么确认屏幕对面真的有一个真实的碳基人类。


被骗怕了的美国高校被迫把身份审核做得越来越严格,几乎像是在审问外星人。


今年4月,美国联邦学生资助系统给所有FAFSA助学金申请加上了实时欺诈筛查,此前提交的申请中,也有大约30万份被挑出来重新核验。6月,美国众议院又通过《禁止向“幽灵学生”提供助学金法案(No Aid for Ghost Students Act)》,要求继续筛查可疑的助学金申请。


招聘公司也只好重新把一部分流程搬回线下。


美国AI模型评测公司Arena碰到假求职者后,考虑要求新员工亲自到办公室报到并领取电脑。美国加密货币交易所Coinbase也要求部分员工赴美线下办理入职。FBI则建议企业在条件允许时,通过线下面试和入职核验身份。


折腾了一圈,最管用的办法竟然还是见到本人。


可大量招聘、交易,包括日常的社交早就依赖于线上了,不可能每次都把人叫到面前。于是,专门替人证明“我是个真人”的服务也有了市场。


Sam Altman和Alex Blania联合创办的科技公司Tools for Humanity,是World项目的主要参与方之一。


World原名Worldcoin,旗下的World ID是一套专门用来证明“你是真人”的数字身份系统。用户通过Tools for Humanity开发的Orb设备扫描虹膜,确认自己是一个独一无二的真人,之后就可以用World ID在网上完成真人验证。


截至今年7月,已有近1800万人通过Orb完成验证,用户遍布160个国家。约会软件Tinder、视频会议平台Zoom和电子签名服务商DocuSign,都已经接入或宣布接入World ID。World Foundation还为World ID推出了收费机制,普通用户仍可免费使用,但接入这套验证系统的企业需要付费。


World并不是唯一盯上这门生意的公司。


2025年,另一家做“真人证明”的身份验证公司Humanity Protocol完成2000万美元融资,估值达到11亿美元。它和World解决的是同一个问题,只不过是通过掌纹来确认账号背后确实有一个真人。


World也给World ID设计了明确的收费方式。普通用户使用World ID免费,接入这套验证系统的企业和应用则需要付费。


按照目前公布的方案,费用可以按单次验证收取,也可以根据每月使用World ID的活跃用户数量计算。换句话说,平台如果想确认一个账号背后是不是活人,就可能要为每一次验证掏钱。


今年7月,World Foundation又融到5250万美元,这笔钱主要会用来继续推广World ID,让更多消费类应用和企业接入这套真人验证系统。


照这个趋势下去,以后可能会有更多平台要求用户用虹膜、掌纹这样的生物信息来证明自己是真人。


可是在以前,只需要在网站上点一下“我不是机器人”就可以了。


如果有一天,连虹膜和掌纹验证也能被AI轻松骗过,我们又该如何证明自己是人呢?


本文来自微信公众号:字母AI,作者:小金牙,编辑:王靖

AI行业信号频道: 前沿科技
本内容由作者授权发布,观点仅代表作者本人,不代表虎嗅立场。
如对本稿件有异议或投诉,请联系 tougao@huxiu.com。
正在改变与想要改变世界的人,都在 虎嗅APP