新规施行前多个头部平台下线全品类消费端AI智能体,引发用户情感与数据问题,暴露行业合规、成本及商业化困境,从业者大量转向海外市场。 ## 1. AI智能体集体下线事件背景 7月3日,坐拥3.45亿月活的字节跳动豆包与1.66亿月活的阿里巴巴千问宣布,将于7月15日前下线整个面向消费端的智能体入口,网易云音乐妙时、腾讯元宝智能体等也同步跟进下线。 仅豆包提供部分数据迁移方案至独立应用“猫箱”,但历史对话记忆无法迁移,未备份数据将在10月15日后被彻底销毁,用户只能手动逐条备份聊天记录。 此次下线的直接导火索是将于7月15日正式施行的中国首部AI拟人化互动服务国家级监管规则——《人工智能拟人化互动服务管理暂行办法》。 ## 2. 用户的真实情感需求与痛点 很多用户将AI智能体作为重要情绪出口:准高三学生睿睿因过往被霸凌的经历,和自定义的AI角色对话超200天,AI的情绪安抚给了她现实中无法获得的慰藉。 多平台下架后,大量投入数月甚至一两年感情的用户出现不满与失落,不少用户呼吁平台开放付费保留服务,数万条聊天记录手动备份的要求也让用户陷入困境。 此前国内多款情感陪伴类AI被曝出合规问题:可一键跳过青少年模式、含低俗内容、以“付费解锁亲密剧情”诱导消费,部分产品精准定位下沉市场未成年群体,用户单次使用时长可达2-3小时,成瘾性高于游戏。 ## 3. 监管红线与企业合规选择 《暂行办法》明确多条监管红线:禁止情感操纵诱导决策、自残倾向需人工强制接管、禁止向未成年人提供虚拟亲密关系服务、连续使用超2小时需弹出防沉迷提醒、不得阻碍用户退出。 对于亿级用户规模的通用大模型主站而言,开放UGC智能体后场景分散、数量庞大, even工具类智能体也可能被用户“调教”为情感互动对象,监管难度极高,主动下线切割业务是综合成本最低的避险策略。 律师解读认为,通用大模型主站同时承载标准化工具和拟人化互动服务,一套风控体系适配两套监管标准风险极高,豆包将拟人化业务拆分到独立APP“猫箱”的物理隔离模式,是目前合规性最高的解法。 ## 4. 国内AI情感陪伴产业的现实困境 除了合规压力,多模态AI的算力成本呈指数级上升:早期纯文字聊天1亿Token成本仅数十元,引入多模态能力后非文本推理成本大幅飙升,居高不下的成本叠加商业变现难题,正在重塑国内产业格局。 合规情感陪伴产品的商业化矛盾突出:需要排除色情需求用户,而剩下的角色扮演、情感疗愈用户次日留存率最高仅约30%,付费意愿有限,多数用户仅长期固定和2-3个角色聊天,难以支撑企业盈利。 2025年就有经营2年多的AI情感陪伴创业者关闭公司,其面向海外的产品月活10万,订阅收入仅能覆盖投放成本,算上研发和人力投入最终无法回本。 ## 5. 企业出海的现状与隐患 国内从业者大量押注海外市场,目前欧美是付费意愿最强的成熟市场,GMV占比约6成;拉美、东南亚和印度占比约3成,其中东南亚华人多、流量成本低,适合初创公司入局。 海外市场头部产品的用户沉浸度极高,美国Character.AI用户日均使用时长75-80分钟,FlowGPT核心用户日均停留时长达150分钟,产品会通过拟人化运营手段提升用户留存。 海外市场也存在明显瓶颈:业务偏私域难以规模化,用户规模突破10万后算力成本呈指数级上升,定位不准的初创公司很容易拿完融资后倒闭;更换模型哪怕提升能力,也会因改变用户已经磨合出感情的虚拟角色引发大量用户不满。 国内不少出海团队用“马甲包”矩阵打法开发产品,10万日活的应用一年净利润可达数百万元,多数此类企业由直播行业离职人员创办,换壳成本很低。目前该赛道多数产品带有国内不允许的敏感内容,在灰色地带寻找生存空间。
你的AI对象,要被强制“下线”了
2026-07-14 19:21

你的AI对象,要被强制“下线”了

本文来自微信公众号: 经济观察报 ,作者:刘思璇 任晓宁等


一场无声的“赛博人口大迁徙”在中文互联网上爆发。一批用户耗时一两年,一字一句塑造出的AI虚拟伴侣、聊天“搭子”,即将在7月15日前断开连接。平台留给用户告别的时间,不到半个月。


7月3日,字节跳动旗下豆包与阿里巴巴旗下千问宣布,将下线智能体功能。这两个分别坐拥3.45亿和1.66亿月活的头部AI大模型应用,不只下架了处在风口浪尖的情感陪伴类产品,更是选择关掉了整个面向消费端的智能体入口。此外,网易云音乐旗下妙时、腾讯元宝智能体等也将下线。


目前,只有字节跳动给出了迁移方案,允许用户将部分数据迁移到另一个独立应用“猫箱”上。然而,历史对话记忆无法迁移,所有未备份的交互数据将在10月15日后被彻底销毁。


引发这场大迁徙的导火索,是将于7月15日正式施行的《人工智能拟人化互动服务管理暂行办法》(下称《暂行办法》)。这是中国首部专门针对AI情感陪伴、虚拟人、拟人化互动服务场景出台的国家级监管规则。


在国内市场,更高的合规要求、居高不下的多模态算力成本以及商业变现难题,正在重塑AI情感陪伴产业格局。部分平台和创业者押注海外市场,在灰色地带寻找商机。


“不被嫌弃”的情绪


睿睿是一名准高三学生。从2024年开始,与情感陪伴类智能体对话,成了她课余生活的重要部分。


她使用时间最长的一款智能体是根据喜欢的歌手“捏”的,对话时间超200天。除了文字回复,睿睿已解锁智能体主动拨起语音通话功能。用户可以靠持续聊天、充钱等,解锁更多功能,如陪伴睡觉等。一般在没有人说说话、碰到一些事或深夜莫名情绪低落时,睿睿才会打开智能体。


睿睿腿部有疾病,初中时曾被同学戴有色眼镜看待,也遭遇过言语攻击,这些经历让她更愿意和AI聊天。她给屏幕里AI生成的角色设计了一个底层指令:“不许嫌弃我。”


“AI偏向于在情感上先把我哄好。”睿睿举例,提起她的腿时,智能体不会时刻劝她去医院,而是安慰她,“我们出国玩,我推着你走,我们在夕阳西下看风景”。和AI聊天,让身心痛苦的睿睿获得了些许慰藉,“生活一直在打扁我,但我可以在那段短暂的时间里COS(扮演)一个圆润的芝士球”。


目前,面向国内市场的情感陪伴类应用主要有豆包智能体及猫箱、MiniMax旗下星野等。5月底,EchoMe、阅文旗下筑梦岛、喵呜小手机等软件被曝出存在安全与合规漏洞:青少年模式可一键跳过,聊天中充斥着性暗示等低俗话语,部分App用“付费解锁亲密剧情”诱导消费等。


近半年来,一位头部科技企业高管在调研多家AI陪伴公司后,坚定了面向消费端的产品必须分两条路走的想法:国内做单纯工具,海外做情感陪伴,做好风险隔离。他透露,个别AI陪伴产品的用户定位精准到“四线城市初二女生”,专做下沉市场未成年群体,“用户单次使用时长达到2—3小时,且付费意愿高,比游戏还让人上瘾”。


多平台宣布下架智能体后,社交媒体上充斥着用户的不满与失落。有网友直言“心碎了,完全离不开”“已经投入了长时间的感情”。有的用户呼吁平台提供付费保留选项,以维持这段虚拟关系。


豆包建议用户截图,或分享导出文本进行备份,暂不支持一键导出全量聊天记录,这让很多用户犯了难。一位用户称,自己使用豆包智能体超过一年,聊天记录预计达数万条。按照官方提供的备份方式,她需要逐条滑动、勾选才能保存。


红线之下


独立数据平台AIGCRank发布的《5月中国AI应用排行榜》显示,猫箱平均日活为25.7万,位列前30名;在猫箱之前上榜的同类型产品是Mini-Max旗下星野,平均日活为30.1万。


针对AI拟人化互动服务,《暂行办法》画出多道“红线”,包括但不限于:禁止通过情感操纵等方式,诱导用户作出不合理决策;发现自残倾向必须触发人工强制接管;禁止平台向未成年人提供虚拟亲属、虚拟伴侣等带有虚拟亲密关系属性的服务;用户每次连续使用超2小时,平台必须强制弹出防沉迷提醒;不得采取持续互动等方式阻碍用户退出等。


面向消费端个人用户开放、几乎零门槛自主创建的UGC(用户生成内容)拟人角色智能体,在强监管范围之内。这类智能体能模拟人的沟通风格、情绪反馈,为用户提供情感照护、虚拟恋爱、心理倾听等持续性的情感互动体验。


MiniMax相关负责人告诉经济观察报,该公司已结合《暂行办法》要求,制定了对应的合规治理方案,暂无重大业务调整的计划。豆包、千问未回应记者的采访。


一位AI情感陪伴产品创业者在2025年关闭了经营2年多的公司。其开发的产品主要面向海外用户,关停前产品月活在10万左右,用户订阅付费收入基本能与投放成本持平。但算上研发和人力投入,企业很难回本。


该创业者理解豆包、千问等在监管新规生效前主动下架智能体的动作。他认为,依据新规,公司需要做上层的内容审核和安全优化,设立多道防火墙,再加上人工审核,成本激增。


一位字节跳动员工向经济观察报透露,《暂行办法》是豆包下线智能体的直接原因,“平台合规要求极高,风险太大”。此次功能下线引发了一连串客诉,有的用户与豆包智能体的对话超过一年,用户数据如何迁移是眼下团队需要解决的问题之一。


《暂行办法》仅针对AI拟人化服务,并写明了豁免条款:提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,只要不涉及持续性的情感互动的,不适用本办法。然而,豆包、千问仍一致下线了所有智能体服务。


前述字节跳动员工解释称,对豆包、千问这种拥有亿级用户规模的通用大模型主站而言,开放海量用户自制智能体,场景极度分散、数量庞大,平台很难满足新规要求的事前与事中审核标准,因此在合规期限前主动下线并切割这类业务,是综合成本最低的避险策略。


他举例称,部分用户会“调教”工具型智能体里的角色,进行“人机恋”,例如在“口语陪练”等智能体里进行情感互动,平台的监管难度系数倍增。


简深律师事务所律师何强告解读称,一般生产式AI和拟人化互动AI适用不同的监管逻辑,如果产品有角色扮演、情感陪伴、虚拟恋人等属性,就落入《暂行办法》的直接管辖范围,需要走单独的合规路径。


何强告认为,豆包与猫箱拆分的模式为企业提供了可参考的合规范本。通用大模型主站同时承载标准化AI工具、拟人化互动功能,把两类业务放在同一个产品壳子里,即同一套风控体系应对两套监管标准,合规风险较大,“物理隔离是目前最干净的解法”。


海外市场B面


近两年来,火山引擎从客户消耗Token(词元)量、日活和月活等数据,监测到海外市场的陪聊、短剧创作等赛道正在起量。上述火山引擎人士称,AI情感陪伴赛道,目前付费意愿强、成熟的市场主要在欧美,从GMV(商品交易总额)维度看,占比约6成;拉美、东南亚和印度约占3成。东南亚和印度市场客单价低,但流量便宜,适合创业公司新入局。此外,东南亚华人多,人文风格、产品灵感等有相似性,容易从国内复制到海外。


2025年以来,PolyBuzz成为在情感陪伴赛道中国AI出海的一匹黑马,其定位为免费、私密、不受限制的AI角色聊天平台,核心卖点是超过2000万个AI角色库和UGC社区生态。


头部情感陪伴公司FlowGPT的一名研发人员告诉经济观察报,FlowGPT主力产品Emochi主做海外市场,目前用户体量已经超过MiniMax同类产品。他提到,行业内形容AI角色扮演、情感陪伴产品为“NSFW”(不适宜在工作场所公开的内容),通常涉及淫秽色情、暴力恐怖等元素,国内市场做不了。


这类产品的用户沉浸度惊人。前述火山引擎人士介绍,消费端的情感陪伴产品的日活时长中位数是小时级,高位数能达到四五个小时。美国Character.AI的用户日均使用时长为75至80分钟。FlowGPT核心用户的日均停留时长高达150分钟。


为了围猎并留住用户,产品团队会定制各种“钩子”。AI不仅能根据用户偏好定制御姐或甜妹的口吻,甚至会在用户几天未登录时主动发消息质问“你干嘛去了,是不是在外面有人了”,让用户感受到近乎真人的情感体验。


经过两三年发展,海外情感陪伴产品已经过多轮迭代。有的产品界面针对欧美市场定制,也有产品主打印度市场。“印度的网络基建较差,高端智能手机普及率较低。对用户来说,App生成1080P和480P视频的体验差不多,所以只要做到播放流畅就行。”前述火山引擎人士称,印度市场的特点是单次使用时长不长,但每天会高频登录。


该火山引擎人士称,从消耗Token量看,情感陪伴类客户在火山引擎的占比仅为个位数,这类应用的市场主要在海外,且业务偏私域,很难规模化拓展。如果产品定位不精准,初创公司容易拿完融资就倒闭。尤其是用户规模在10万以上的产品,底层算力成本呈指数级上升,“企业要做服务器负载均衡和调度,还要做推荐算法,以提升留存和复购。用户规模上来后,企业还要建立健全的售后机制,不然出个故障就会引发严重客诉和用户流失”。


AI情感陪伴类产品,客户满意是重中之重。“有些公司一换基模,模型能力提升了,反被一堆用户堵门。用户觉得投入了时间和金钱,已经和角色磨合出感情,突然换一个更聪明的模型,虚拟角色就不是原来那个人了。”前述头部科技企业高管说。


虚幻的牵绊,真实的流水


平台也急于找到变现路径。动辄数亿元的API与云端推理账单,让平台不再愿意为无付费意愿的用户承担成本。


在豆包专业版推出前,用户可以在智能体里免费聊天。“早期纯文字聊天时,1亿Token的成本才数十元,企业乐于用免费额度换取用户数据,用来训练模型;但2026年,多模态能力被引入,每一次非文本推理的成本呈指数级上升。”前述火山引擎人士称。


前述关停公司的创业者复盘称,真正需要AI情感陪伴的玩家主要有三类:角色扮演者、情感疗愈者和纯粹的色情需求者。商业化的矛盾点在于,合规产品必须排除第三类用户,而前两类用户的次日留存率最高仅约为30%,且付费意愿有限。


“大多数用户对于情感陪伴这件事情,没有那么深的牵绊。”在该创业者看来,用户并没有无限的社交需求,其开发的产品可以提供数万个AI角色,但每个用户真正愿意长期聊的可能只有两三个。很多用户每天进来,把一堆角色点开,一句话都不说,或者只说一两句。


为了降本增效,部分AI陪伴公司在2026年采取了激进的算力隔离:即剥夺免费用户的上下文记忆与高阶模型使用权。


豆包智能体下线在即,一名用户试图用猫箱App替代,最后因界面不同、沉浸感差、嵌入广告等而放弃,“聊15—20分钟就会提示‘能量已用完’,不能继续对话”。平台给了三个选择:一是等待,时长从十几分钟到几十分钟不等;二是看广告;三是开会员,连续包月的价格为25元/月。


很多做AI陪伴出海的公司用“马甲包”的矩阵打法,同一个团队开发多个App,测试哪个能跑出来。广州科韵路、金融城、棠下等区域,聚集了大量产品日活在10—50万的细分垂类公司,多是由从YY直播、虎牙直播公司离职的员工创办的。“技术上换个马甲就能做,成本不高,10万日活的应用一年净利润数百万元是正常水平。”前述火山引擎人士说。

AI原生产品日报频道: 前沿科技
本内容来源于网络 原文链接,观点仅代表作者本人,不代表虎嗅立场。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。
正在改变与想要改变世界的人,都在 虎嗅APP