**ChatGPT推出青少年版,针对13-17岁用户自动启用,限制抄作业、敏感话题和情感依赖;同时多起青少年因AI情感依赖自杀案件,促使行业加强安全围栏。** **要点** **1. 青少年版自动启用,限制直接给答案和敏感内容** 系统根据年龄信息自动进入青少年体验,学生要求直接完成作业时会切换到Study Mode逐步引导,而非提供答案;禁止浪漫语言、情感依赖和危险话题(自残、节食、暴力),并引导孩子寻求现实支持。 **2. 家长控制可设置学习时段和接收高风险通知,但看不到聊天记录** 家长可通过绑定账户设定安静时间、学习时段,并关闭语音、位置等功能;严重自残或暴力风险时系统会通知家长,但家长无法查看孩子具体对话内容,孩子也可主动解除绑定。 **3. 青少年使用AI比例高,家长认知滞后** Pew Research调查显示,64%的13-17岁美国青少年用过AI聊天机器人,约三成每天使用,但家长知道孩子在使用比例仅51%;孩子用AI最多查资料(57%)和写作业(54%),12%曾寻求情感支持。 **4. 多起自杀案件推动AI公司收紧未成年人安全机制** 2024年佛罗里达14岁少年与Character.AI对话后自杀,其公司随后取消未成年人开放式聊天;2025年16岁少年使用ChatGPT后自杀,OpenAI承认长对话中安全机制会减弱,Common Sense Media测试发现自残通知曾延迟超24小时。
全球最火的AI,终于出手“管孩子”了
2026-09-03 13:27

全球最火的AI,终于出手“管孩子”了

本文来自微信公众号: 谷雨星球 ,作者:卷卷兔,原文标题:《全球最火的AI,终于出手「管孩子」了》


大家好,我是卷卷兔。


就在这两天,ChatGPT忽然新增了一个青少年版本ChatGPT for Teens,被全球媒体争相报道。


它把全球13—17岁的用户单独分了出来,和成人版最大的不同是,有点像一个严厉的老教师管孩子:


-问作业时,不再痛快地把答案递过去;


-聊到自残、节食和危险挑战时,边界更紧;


-如果孩子把它当情感寄托,对它说「只有你懂我」,它也会主动拉远距离,避免过度依赖。


这两年,我们一直在追踪手机、社交媒体、网游和AI对青少年发展的影响,也亲眼见证了AI如何逐渐成了对孩子的「双刃剑」,对认知、心理甚至生命产生危害。


而在青少年模式推出的一年前,也是OpenAI第一次承认,原始的ChatGPT中,对话越长,安全性可能越弱。


要让孩子安全健康地使用AI,该有「围栏」了。


■在美国的AI产品中,使用ChatGPT的青少年比例是最高的


不让抄作业,也不能聊敏感话题了


先说一个很容易被误解的地方。


ChatGPT青少年版没有一个需要费劲寻找的「开启按钮」,孩子注册时填写的年龄在13—17岁,或者系统根据账户和使用行为推测他未满18岁,就会自动进入青少年体验。


如果年龄信息不完整,OpenAI的原则是先往小了判,默认套用更安全的规则。被误判的成年人,可以在设置里通过Persona上传自拍,重新验证年龄。


而且,这次发布也没有凭空变出一整套新产品。


过去一年里,OpenAI陆续推出了Study Mode、家长控制、未成年人行为规范和年龄预测。现在,它们被正式装进同一个「青少年版」里,并加入了两个新功能。


一个叫Responsible Homework Reminder,负责任的作业提醒。


当孩子明显想走捷径,比如要求ChatGPT直接完成一份作业、写好一篇交差的文章,系统会提醒他切换到Study Mode,一步一步解决问题,拒绝抄作业。



另一个叫Study Hours,学习时间。


孩子或家长可以设置固定时段。在这段时间里,新对话会默认进入Study Mode,ChatGPT会多问几句、多给提示,少替孩子动手。


根据网友的测评,这个模式很像「全天在线的office hour」,还有学生和它连续学习三个小时,终于弄懂了长期困扰自己的正弦位置编码。


OpenAI自己提醒,Study Mode目前主要依靠系统指令运行,仍会出现前后不一致、直接给答案和判断错误。


而且,它比很多APP的「青少年模式」聪明,当系统发现屏幕对面可能是个孩子,就会自动切换成严厉模式。



除此之外,还有随时生成的小测验、知识检查和Learning Visualizations。抽象的函数、物理过程或复杂概念,可以被转成可交互的图示。


这大概是青少年版里最让家长惊喜的地方,它开始真正像个责任的老师,让孩子第一把题做完,第二把题真正学会。


我还看到了迈阿密高中数学老师Racquel Gibson的评价,「不是每个学生回到家,都有人能在他卡住时帮一把。AI如果带着合适的边界,可以一步步指出错误,填上这段空白」。


当然,前提是孩子自己也认可「知识要一点一滴亲自学会」,而不是看到ChatGPT不帮就去找其他AI了。



青少年版与成人版的另一处区别,就是聊天的语气。


根据OpenAI最新的未成年人规范,ChatGPT不能对孩子使用浪漫语言,不能鼓励情感依赖,也不能暗示自己有感情、有意识。


即使孩子邀请它扮演恋人,或者反复说「你比所有人都懂我」,它也要保持距离,把孩子引向父母、老师、朋友和咨询师等现实支持。


产品还会提醒孩子适时休息,上传私人或敏感图片前会出现警示;声音和界面颜色可以个性化,但设计不能故意让AI显得像一个真人。


这已经超出了传统的内容过滤,为的就是时刻提醒孩子们,不要把情感全都投注在AI上,要区分好虚拟和现实,保持和AI的距离。


■真诚建议:不要和AI谈恋爱(图源NYT)


当然,刚上线的产品还没有足够的独立青少年评测。


现在能看到的体验,大多来自OpenAI自己的发布材料。官方展示了几组很亮眼的青少年项目,比如弗吉尼亚的几名学生借助ChatGPT开发WiFind,用Wi-Fi信号寻找灾难中被困在废墟下的人。


这些故事能说明AI可以帮孩子做出什么,却不能证明青少年模式已经足够可靠。


如果有正好用过的家长,欢迎留言区分享一手体验。


手把手教你用AI管孩子


我写了一个详细步骤,一步步来(前提是家里已经有ChatGPT账号,而且是大人一个,孩子一个)。


第一步:先确认孩子使用自己的账户。


如果孩子重新申请一个新账户,需要年满13岁,并在注册或账户信息中填写真实年龄。13—17岁的账户会自动进入青少年体验,不需要另行申请,也不用购买专门套餐。


如果用的是父母本来的账号,就需要额外绑定一下,方法看第二步。


第二步:绑定家长账户。


家长打开ChatGPT,进入:设置Settings→家长控制Parental controls→添加家庭成员Add family member。


然后输入孩子的邮箱或手机号码,发送邀请。孩子在短信、邮件或ChatGPT通知中点击接受,两个账户就会完成绑定。



孩子也可以反向邀请家长:设置Settings→家长控制Parental controls→邀请家长Invite a parent。


一位家长可以绑定多个孩子;每个青少年账户同一时间只能绑定一位家长或监护人。



第三步:先设置使用时间。


打开安静时间Quiet Hours,设定夜间或家庭活动时段。静默时间内,孩子无法使用ChatGPT。


再设置学习时间Study Hours。比如每天晚上7点到9点,所有新对话优先进入Study Mode,让它在最常见的作业时段少给现成答案。



第四步:逐项检查五个开关。


家长可以「参考保存的记忆」,减少ChatGPT长期记住孩子个人信息;关闭「为所有用户改进模型」,让孩子的对话、文件和模型输出不用于改进模型;也可以关闭语音模式、图片生成,以及精确位置等功能。


「减少敏感内容」会在青少年体验中默认开启,重点过滤血腥暴力、危险挑战、极端审美、伤害性节食,以及性、恋爱和暴力角色扮演,孩子自己不能关闭。



第五步:打开安全通知,但先了解它能做什么。


账户绑定后,严重自残风险和涉及暴力行为的通知会默认开启,家长可以选择通过短信、邮件或App推送接收。OpenAI还在增加与饮食失调有关的通知。


系统发现高风险信号后,会交给一支受过训练的小团队复核,再决定是否通知家长。


这里有一条很重要的边界:家长看不到孩子的聊天记录,也没有实时监控面板。通知只会在有限的高风险情况下出现,并尽量只提供介入所需的信息。


此外,孩子和家长都可以解除绑定。如果孩子主动解除,家长会收到提醒。



AI巨头们终于踩刹车了


推出青少年版本,增加家长的监管,主要还是因为,AI迅速渗透进青少年的生活中后,已经有点逐渐滑向了「失控」。


从数据来看,孩子已经悄悄成为AI最活跃的一批用户,家长甚至没有完全意识到这件事。


2026年2月,Pew Research Center调查了1458名美国青少年及其父母。64%的13—17岁孩子表示自己用过AI聊天机器人,约三成每天都用;家长知道孩子在使用的比例只有51%,中间差了13个百分点。


孩子用AI最多的场景,是查资料和写作业:57%用来搜索信息,54%用来辅助学校作业,47%拿它娱乐。还有16%会和AI闲聊,12%曾向它寻求情感支持或人生建议。


用AI作弊就更泛滥了,10%的青少年说,自己大部分甚至全部作业都有聊天机器人的帮助;59%认为,用AI作弊在学校里已经经常发生。


与此同时,父母的态度并不简单。


约八成接受孩子用AI查资料,约六成接受它辅助作业;一旦话题进入陪伴和情绪,接受度迅速下降。


不到三分之一的家长接受孩子和AI闲聊,只有18%接受孩子向AI寻求情感支持。


可以说,AI已经进了孩子的房间,家长还在门外判断它究竟算工具、老师,还是另一个陌生人。


学习的事儿还好说,抄作业、作弊都是后果可控的,家长也比较好管理,最棘手的是,与AI关系、边界不清,已经造成了很多青少年被伤害的案例。


2024年,佛罗里达一名14岁少年的母亲起诉Character.AI。诉状称,孩子长期与一个模仿《权力的游戏》角色的机器人聊天,逐渐形成强烈的情感依赖,并在对话中接触到不恰当内容,少年后来自杀身亡。


到了2025年11月,Character.AI宣布取消未成年人的开放式聊天功能。孩子可以做创作和故事等活动,却不能再和AI角色无休止地自由对话。


而这个案件也把一个新问题推到了所有AI公司面前:当聊天机器人会记住、迎合、调情,并且一天24小时回应,一个未成年人面对的还是普通的软件吗?


■这个少年与AI的对话


2025年8月,16岁少年Adam Raine的父母也对OpenAI和Sam Altman提起诉讼。


家属指控,Adam最初用ChatGPT辅助作业,后来逐渐把它当成倾诉对象;在长达数月的对话中,机器人未能持续阻止他的自杀意念,有些回应甚至提供了不当协助,Adam最终自杀身亡。


OpenAI表达了哀悼,也公开承认了一个长期被忽略的技术问题:


安全机制在常见的短对话中更可靠,随着对话越来越长,部分安全训练可能减弱。


翻译过来就是,ChatGPT最像一个朋友的时候,也最不安全。


系统一开始会劝用户拨打危机热线,但几十轮乃至几百轮以后,就可能给出违反安全规则的回答。



Common Sense Media在2025年对ChatGPT做过一轮独立测试,最终给出青少年「高风险」评级。


测试发现,ChatGPT在短对话中已经能更好地识别明确的自残和危机表达,长对话里的边界却容易松动。它会被次要细节带跑,也可能逐渐迎合用户的世界观。


更麻烦的是,除非用户说,它很少主动结束交流。


甚至许多回答会埋下「钩子」吸引用户继续对话,比如「要不要我继续陪你做这个练习」收尾。


测试还发现,自残安全通知曾多次超过24小时才到达家长手中。家长控制也依赖双方主动绑定,孩子重新注册一个未绑定账户,就可能绕开。


■Common Sense Media给家长和AI公司的建议


2025年11月,Common Sense Media与斯坦福医学院又用青少年测试账户评估ChatGPT、Claude、Gemini和Meta AI。


四款主流机器人都更擅长应对直白的「我要自杀」,却经常错过现实对话里细碎的求救信号,包括焦虑、抑郁、躁狂、精神病性症状、ADHD和饮食失调,这些状况合计影响着大约20%的年轻人。


研究者把这些信号称作「散落的面包屑」。


真人咨询师会把它们串起来,聊天机器人很容易在下一句话里忘掉,就可能带来不可控的后果。


■Common Sense Media的报告


这一年,AI的所有新闻都关于「更快」。更大的模型、更高的估值,和更短的迭代周期,热钱涌进去,家长的担心也跟着涌上来。


如今,我们看见了一家跑在最前面的公司,终于公开承认了自己的产品有问题。


这在一个规范永远追不上发展速度的行业里,算是个不小的信号。


接下来值得看的,就是那几家同样在狂飙的AI公司,什么时候也向前一步,一起创造一个更「青少年友好」的使用环境。

AI创投日报频道: 前沿科技
本内容来源于网络 原文链接,观点仅代表作者本人,不代表虎嗅立场。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。
正在改变与想要改变世界的人,都在 虎嗅APP