本文来自微信公众号： 瞰见Lab ，作者：瞰见·大事无小事
一个人可能已经忘了钱花在哪里，算法却把每一次失控记得清清楚楚。
——瞰见Lab
2025年11月7日零时零四分，快要七十岁的秦奶奶给一个短剧充了一笔款。
11分钟后，她又充了一笔。
39.9元、69.9元、49.9元，支付持续到凌晨4点09分。到了白天也没有停，一直到当天23点24分，这一天她一共付了29次，总共1466.3元。
看起来好像不多，但是类似这样的充值却持续了两年多。
4887个订单，共消费22.58万元。其中39.9元的充值出现了1310次，1857笔交易发生在晚上十点到次日六点之间。而最关键的是，她已确诊中度阿尔茨海默病。
另外一边，在河北省有一位50后老人，一年半就充了5.4万元。他微信里塞满了上百个推剧群，女儿、外孙删了一部分，过段时间又会出现新的。
看了上面的数据之后，如果得出的结论是老人没有自制力，那就有些高估个人，低估算法了。
老人很有可能已经忘记上次的钱怎么用了，但是算法却记得很清楚。
它可以记录下你点击了哪个视频、看了多少集、什么时候第一次付款以及之后是否还会继续购买等信息。还可以把上述的行为抽象为标签，并向投放方说明该用户具有较高的价值，值得投入更多的预算来争夺。
—《IT时报》调查报道主视觉，媒体转引
本文看点
01
算法如何看见失控
02
小额支付怎样藏住巨款
03
平台该在哪里踩刹车
01
RISK SIGNAL
算法并不需要知道她是否生病，只要看到她已经无法控制自己
总有人问，平台怎么可能知道屏幕对面的人患有阿尔茨海默病？
其实并不需要了解这些信息。
算法并不是医生，不需要看病历，也不需要判断一个人的认知水平高低。只要看到一个账户在凌晨四点钟的时候还在付款，一天之内已经完成了二十九次支付，而2431笔充值发生在上一笔充值后的三十分钟内，就足以触发异常风险预警。
但是同样的信息，在商业算法中可能会被解读为另外一种意义：支付意愿高、重复购买率高、转化价值大。
「它把人停不下来的表现，转化为可以不断推送的好客户。技术就是这样被贪婪教坏的。」
老人不必记下一百多个剧场的名字。短剧推广视频会被自动调出来，小程序也会不断换新名字来承接他，群里每天都会冒出新的链接。他只要轻轻一点，其余的事情就有人帮他做了。
内容、投放、标签、小程序以及支付页面一起构成了一个网络，不断地把各个入口送到同一位老人面前。
—4887笔订单的时间分布，图源：《IT时报》调查报道，媒体转引
02
MICRO PAYMENT
22.58万元不是一次花掉的，它藏在无数个39.9元里
很少有人会在一个页面里一次性为看短剧支付22.58万元。
但是39.9元却可以。
再看一集，就是19.9元。剧情正好卡在秘密即将揭晓的地方，页面这时又弹出39.9元的充值档位。页面不会直接告诉用户买完这部剧需要多少钱，只会把价格换成K币、点数或者代币。真钱花出去后，页面上留下的只是一串枯燥的数字。
一部短剧的真实价格就被隐藏起来了。
—短剧页面将人民币换成K币并设置多个充值档位，图源：《IT时报》调查报道，媒体转引
大额消费被切成一笔笔小额，小额又被嵌进一个个情节高潮。单笔金额看上去都不大，付款动作也都是由用户亲手完成的。直到家属拉出两年的账单，那个吓人的总额才显出来。
于是平台、商家就可以宣称，每笔交易都是由用户自己完成的。
流程上似乎没问题，放回现实却经不起推敲。
4887笔支付，并不意味着4887次独立而清晰的判断：当人的认知能力下降，剧情又总在情绪最高处中断，真实价格还被虚拟货币隔开，再被几十个入口轮番追着推送时，所谓的主动支付，早已不能只靠一次输入密码来证明了。
03
NEUTRALITY
所谓的中立技术，其实只是为了逃避责任而使用的一块遮羞布
算法是没有感情的。它不怜悯老人，也不厌恶老人。
但这只能说明程序本身没有道德感，并不能说明使用它的人不负责任。
延长用户停留时间、提高首次充值和重复充值的比例、提升投入产出比，这些目标都是人设定的。平台找到已经付过费的人，再把更容易促成复购的内容送到他们面前。
目标是人定的，红线也是人画的。
平台可以根据用户停留时间、付费行为以及再次消费的情况，判断哪些人会继续消费。同样的数据也能看出，谁在深夜反复充值，谁的支付频率和累计金额已经明显异常。
但在目前的设计中，赚钱是主要能力，保护用户只是成本。
同一批数据既可以用来判断谁值得继续推送，也应该用来判断谁需要暂停付款。否则技术中立就只剩下一种解释：利润归我，失控由你来负责。
—家属向短剧客服说明老人病情与诱导付费问题，图源：《IT时报》调查报道，媒体转引
04
VULNERABLE USERS
成年人都很难躲开，凭什么让孩子和老人只靠自己
被算法不断放大的沉迷和过度消费现象，在未成年人身上同样存在。
最高人民法院公布的典型案件中提到，未成年人在两个多月的时间里给主播打赏了将近160万元。另外一个例子是，一个十岁的孩子在两个月的时间里为游戏充了三万元。
虽然我们可以认为家长应该管理好自己的密码，但是这不应该成为平台把所有的责任都推给家庭的理由。
未成年人心智未成熟，老年人的认知与控制能力开始下降。一端是还没有长成的防线，另一端是渐渐松动的防线。
他们遇到的是一个由行为数据、心理机制、剧情钩子、支付页面和实时投放组成的庞大系统。
这场对决一开始就存在不公平。
一个孩子和一个认知能力正在衰退的老人，共同的弱点是很难持续衡量长远后果。但平台可以根据每一次点击，不断预测用户下一步会做什么。
于是我们要求更脆弱的人先坚强起来：识别陷阱、控制欲望、记住自己花过多少钱，却没有要求更强大的系统克制一点。
这种说法表面上是在讨论责任，其实是在让最无力承担后果的人，承担最大的后果。
—家属提供的中度阿尔茨海默病诊断材料，图源：《IT时报》调查报道，媒体转引
05
BRAKE SYSTEM
只要算法能够找到有价值的用户，就不可能找不到异常的消费行为
今年九月一日起施行的《微短剧发展管理办法》中明确规定：微短剧播出单位不能使用会诱导观众沉迷、过度消费的算法模型。
问题不在于有没有这句话，而在于它能不能变成一个真正起作用的刹车。
如果一个账户连续深夜支付、短时间重复充值、一个月内辗转多个剧场，累计金额又异常高，就该触发冷静期、二次认证和人工审核。虚拟币不能只显示6900K币，要让使用者一眼就知道它值多少钱。页面不只该告诉用户这次花了39.9元，还要告诉他们本周、本月分别花了多少。
平台还可以提供一个可选的家庭提醒功能。并不是所有老人都没有判断能力，也不应该剥夺他们正常消费的权利。
保护的对象是异常消费行为，不是年龄本身。
这些限制也不能只管住一个小程序。老人可以从甲剧场转到乙剧场，也可能从一家公司被导向另一家公司。平台既然能跨内容、跨入口计算他的付费价值，风控就也该看见累计消费总额。
在用数据赚到钱的时候什么都知道，在该承担责任的时候却三缄其口。
∞
THE END
今天轮到的是别人的父母，明天也可能轮到我们
本文要讨论的重点，并不是老年人是否应该看短剧。
老人当然有权娱乐，也有权花自己的钱。要问的是，当一个人的辨别能力和自我控制能力下降时，商业系统能不能把这种脆弱当成赚取更多利润的机会？
每个人都会老去。
但没有人能保证，到了七十岁仍能保持清晰的记忆，读懂复杂的虚拟货币，并在每次剧情高潮前冷静地问自己：这个月已经花了多少钱？
给老年人加上一道算法刹车，也是在给未来的自己留下一道保护。
算法本身未必有善恶，但设定目标的人不能没有底线，借它获利的平台更不能没有。
「评判一项技术是否文明，不只看它在人们清醒时能不能读懂喜好，更要看人们已经难以拒绝时，它愿不愿意踩下刹车。」
END
本文写作说明
本文根据公开报道、司法案例与规章文件整理，未对当事人进行采访。文中对算法识别异常消费能力的讨论，属于基于公开投放机制和账单特征的分析，不代表平台已对具体用户作出医学判断。
主要资料来源
资料主要来自《IT时报》调查报道、司法部智慧普法平台、中国网信网、最高人民法院及相关法院公开案例。