本文来自微信公众号： 长三角momo ，作者：炮哥
我带着愤怒和疲惫写这篇文章。
一个六十来岁的老太太，因为手臂骨折难以愈合，最终用AI自己给自己看病，得出了命不久矣的结论，通知家里人料理后事，一个骨折如何能演化成危及生命？这便是AI的神奇之处。
因为这个老太太的心，被AI击溃了。
这不是别人的故事，这个老太太是我的母亲。
三个月前，我母亲胳膊不慎骨折，瞒着我一直不说，在随后的两个月里，骨头一直不愈合，后来拍片子发现了问题，愈合太慢，结果去医院一检查，发现自己有严重的骨质疏松。
在她意识到自己有问题后，便开始用AI给自己看病，把所有的检查数据以及自身的情况发送给AI，然后得出了各种各样的可怕结果，于是一个原本一天可以坐着打八个小时麻将都不嫌累的人，开始卧床不起，整天说后背痛，腰痛，坐不起来，气喘不过来。
AI跟她说，她的骨骼状态是130岁的状态，一碰就碎了，她却忘了一件事，130岁的人的数据从何而来？
她最终得出的结果是，自己的骨质疏松是因为自己肾小管漏磷，肾脏持续丢磷，无法根治，需要终身维持治疗，目标是把血磷稳住、骨骼正常矿化、阻止骨痛、骨折、骨骼变形，甚至把自己要吃什么药都找好了，跟我说，要一直用新型靶向药，布罗索尤单抗。
作为一个有独立思考能力的人，我自然不会相信AI的这一套，我自己也用AI跑了一遍她的数据和情况，这只是她骨质疏松可能性其中的一个，也是最差的一个结果，但是她就是愿意相信，她就是这个病。
她带着她的执念，去跟所有医院的医生沟通，跟家里人沟通，别人都不懂，现在只能她自己用这套逻辑跟医生直接对话，我在一边看着她像一个专家引导医生看病的时候，真的是觉得可怜又可笑。
这种强烈的心理暗示的结果就是，对照AI结果出现症状，直到最后，她开始打电话给我远在老家的姨妈们，交代后事，她认为自己这一次熬不过去了，病入膏肓。
而我也隐隐约约感觉到了不妙，因为一个人的心被击垮后，结果是很严重的，她长期的自我吓唬造成的抑郁症，整日昏睡，日夜颠倒，食欲不振，身体越来越差，如果再不加以干预，也许人真的会最终垮掉。
为此，我几乎动用了身边所有的关系，找了全国各地的大医院的骨科、内分泌科的大夫看她的数据，所有的医生在了解了详细情况后，结论都是一致的，重度骨质疏松，骨头愈合的慢，长期焦虑造成营养不良，现在需要尽快解决的是心态的问题，要让病人心态好转，吃好、睡好、白天多运动，配合一些维生素D和补钙的药物，后面会慢慢愈合。
于是，我知道了解题思路，这不是身体上的疾病了，而是心病，我作为子女，需要投入更多的陪伴时间和解释成本，来对抗AI给她造成的负面情绪，我需要重新让她知道，自己身体并无大碍，要积极阳光的生活下去。
这是一个细思极恐的问题，AI对于普通人的心智影响能力，远远大于我们的想象。
如果之前短视频已经格式化过一次人类大脑的话，那么AI便是二次格式化人类大脑，AI会指导很多认知不高的人生活、工作甚至处理人际关系。
但是，问题来了，AI可以告诉你一切，给你很多建议，但是它却不对你负任何责任。
这个世界上，人的大脑分为两种，一种拥有独立意识，有质疑精神，一种容易陷入相信，分辨能力弱，AI把各种可能性罗列出来后，前者往往能在线索中，找到正确的路，而后者，则会迷路，找到错误的路。
比如AI看病这件事，身边的误导悲剧已经很多，前段时间，把手指头泡在盐水里的案例，历历在目，我觉得这是一个伦理问题了，和智能驾驶很类似，这个事情关乎人的健康，甚至生命，不是随随便便用现在这种方式提供答案。
是的，AI让有独立思维的人更聪明，但是让无知者更加无知。
腾讯之前一直说，科技向善，我觉得这句话其实适用于所有的AI公司，你们正在进行着人类历史上，最重要的一次认知迁移，在这个过程中，要考虑到弱势群体的判断力和适应力。
AI的一个不经意的回答，可能会毁掉一个人，一个家庭，摧垮一个无知者的精神。
我们生活的物理世界，最恐惧的是核弹，而在我们的精神世界里，AI的威力，比起核弹，毫不逊色。
我原本想点名某一家骂，但是我觉得这也不公平，其实大家都差不多，只是因为我接下来要说的这个故事，恰巧用的是这家的产品，所以，我控诉的是现在市面上的大部分AI大模型软件。
国家统计局2026年最新数据显示，我国目前初中以下文化水平的总人口为7.9亿人，这绝对不是小部分人的问题，而是大部分，AI公司服务的不仅仅是精英，要考虑到更多低文化水平用户的生活。
短视频已经对这个世界作恶过一次了，AI还要继续作恶吗？
在没有100%的把握之下，希望AI引导弱者去找专业人士寻求答案，而不是直接提供一个不负责任却又斩钉截铁的AI答案。
大公司很聪明，会在你看不到的地方，把法律层面的责任撇的一干二净，但是，人类社会，良心总在那里，良心泯灭到一定程度后，自然会有反噬。
而责任，才是科技向善的基础，也是一家伟大公司的基础。