别被他们监控操纵
2020-09-23 20:00

别被他们监控操纵

本文来自公众号:局外人看电影(ID:cstkkj),作者:朵夫,题图来自:《楚门的世界》剧照截图


你有没有过这样的体验:只是在社交软件上搜索过某款产品,或者只是给某个图片/视频点过赞,接下来,却接二连三地收到同类产品的广告,甚至其他购物软件,也开始给你推荐相似的产品?


你有没有想过:“他们”是如何知道你想购买这款产品的?


或者换一个问法:你真的想买这款产品吗?还是因为总是看到相似的推荐,让你产生了自己想买这款产品的想法——买回来之后,却常常发现自己并不需要?


最近,Netflix出品的纪录片《监视资本主义:智能陷阱》,就请了许多知名社交软件的开发者们现身说法,告诉你那些让你上瘾的社交软件,是如何监控你,继而“操纵”你的。



这些接受采访的人,都是Twitter、Facebook、Instagram、YouTube、Tiktok、Google等最受欢迎的应用的高级工程师,或经理级别的管理者,但因为对企业道德伦理方面的担忧,最终选择了离开。


驱使他们离开的,正是这些软件在对社会产生有意义的变革的同时,也产生了令人担忧的、严重的社会问题。



比如,最普遍的问题:上瘾。


你一定有过这样的经验:因为无聊打开了一个软件,只是不经意地划动屏幕,却不知不觉玩了半个多小时。


你发现了吗?所有的软件都在争取你更多的时间,更多的注意力。


商家们发明了一个词:注意力经济。你的注意力正被当成一种稀缺的资源,被所有商人们竞相争夺。


我们使用的绝大多数软件都是免费的,但在商业界有这样一条规律:如果你没有为使用的产品花钱,那你就是那个被贩卖的产品。



我们在使用每一款软件时,我们的所有行为,包括点赞、转发、评论,甚至在一个视频、一张图片上停留时间的长短,都会被软件追踪、记录,由此形成关于我们行为的预测模型。


接着,这款软件就会根据我们的喜好,不断推送我们可能感兴趣的内容,并在其中混杂着可能引起我们兴趣的广告。


就这样,我们在网络上的行为,我们的注意力,就被当成了商品,售卖给了在这些软件上打广告的商家——是他们最终在为这款软件付钱。



所以,对于软件开发商来说,注意力经济这门生意成功的秘诀在于——使用人数的多少,使用时间的长短。


这个基础逻辑,造成了所有的软件开发商的根本诉求就变成了——让使用者上瘾,让更多的人上瘾



这种逻辑是许多人都能明白的,但还有更为隐蔽的商业逻辑:


商品不仅仅是我们的时间和注意力,更是我们被这些软件潜移默化影响、改变了的认知和行为方式。而这种改变,我们常常自己都觉察不到。



比如,通过一个简单的动作,让使用者上瘾:划动屏幕。


许多软件的设计,都让用户通过不断地上划或下划屏幕,来获取新内容。


在心理学上,这叫做“正积极强化”:你不知道什么时候能刷到,或者是否能刷到想看的内容,但只要你简单地划动屏幕,就能源源不断地获取新内容。


其原理就和让赌徒们上瘾的老虎机类似,你只要不停地尝试,永远不知道下一个出现的会是什么,但只要你试,就一定会有下一个。


在不知不觉中,我们已经被这些软件训练出了一种新的行为方式——不断划动屏幕。有的人,甚至会接连几个小时不断地这么做。


再举一个简单的例子,所有软件都希望你打开通知功能,并在图标右上角显示未读信息数。


单单是这个简单的设计,就能让许多人形成“红点强迫症”,不断打开软件来读取新内容。


如果你觉得只有自控力比较差的人才会被影响,自信自己可以免于这样的诱惑,看看你的屏幕使用时间,或许你就不会这么自信了。


“无数工程师团队,他们的工作就是黑入人们的心理。”——Google前设计道德伦理学家



“我们想在心理学上弄清楚,怎样以最快的速度操纵你。然后返回给你让你产生兴奋的事物。”  ——Facebook前增长团队副总裁



“我们利用人类心理中的脆弱挣钱。”——Facebook前总经理



更讽刺的是,即使是发明这些软件的工程师,他们知道这一切背后的原理是什么,但他们同样无法控制自己对这些软件上瘾。



除了上瘾之外,社交媒体导致的第二个严重的问题,就是影响青少年的心理健康。


在美国,有越来越多的未成年因为社交软件的影响开始整容,心理学家们为此创造了一个词:图片分享畸形症。


因为有越来越多的年轻女孩希望把自己整容成更接近于自拍的滤镜中的样子。


因为在她们的审美中,那样夸张的五官,而不是人的真实长相才是真正的好看。



社交媒体滥用对青少年心理健康的影响,还有数据为证。


在美国,从2009年到2013年,青少年中抑郁和焦虑的比率大幅上升。10到14岁女孩中,这个比例甚至增加了189%。


而2009年,正是社交软件开始大规模流行的年份。如此强烈的正相关,很难说是完全的巧合。



“我们在训练、调节一整代人,他们不自在、孤独、不确定或害怕时,有一个自己的数码安慰(手机),这让我们处理情绪的能力退化了。”



如果说这一点还主要是针对青少年的话,那么第三个严重的问题,则是所有社会成员都必须面对的,那就是同温层效应——我们只能看到自己想看到的信息


一个很多人不知道的例子是,如果你使用谷歌搜索“气候变化是……”,在不同的地区,浏览记录不同的人,出现的自动填充词是不一样的。



也就是说,如果你是一个环保主义者,那么你看到的自动填充词可能是“气候变化是严重的环境问题”;但如果你是一个阴谋论者,那么你看到的将是“气候变化是发达国家的阴谋”……


不用为我们在中国不能使用谷歌搜索引擎而庆幸,其他搜索引擎、社交软件、视频网站的搜索工具,通通具有这样投其所好的功能。



因为所有软件都希望传送你感兴趣的内容,所以长此以往,你将只能看到那些你本来就认同的内容、观点,而听不到那些与你相反的声音。


另一方面,因为你以为搜索引擎、社交软件给你的搜索结果是客观、公正的,所以你会对自己本来就认同的观点更加坚信,而完全不理解和你观点、立场不同的人。


你会想:他们怎么会那样想,明明他们也看到了我不停看到的这些信息啊?难道他们是蠢吗?


你根本不会意识到,“他们”看到的是和你完全相反的信息,而“他们”同样认为你所相信的愚蠢至极。



伴随同温层效应出现的,是政治上的两极分化。


在美国,有调查显示,个人和政治上的两级分化达到了20年来的最高,中间派在急剧减少,而极端化的政治立场占有越来越大的比例。



在世界上,我们可以看到,越来越多的中间派政党在选择举中失败,越来越多极端化的政党上台执政。


这造成了整个世界的两极分化,不同国家之间的对立越来越严重。这是我们今天面临的国际环境恶化的其中一个原因。


另一方面,在中国的舆论场上,我们同样可以看到极端化的声音,在社交媒体上开始越来越多的出现。只是其中一些极端的声音比另一些得到了更多展示的机会。


和极端化一起出现的,还有假新闻、阴谋论泛滥。在这次新冠疫情中,我们就看到大量的阴谋论。



还有一些根本没有科学依据的预防、治疗方式,在社交媒体上大量传播。


一边是社交媒体带来的社会问题层出不穷,一边是越来越多的人开始无法自拔。


或许有人会说:任何一个新的媒体出现时,总会有这样悲观的论断,其实没什么好大惊小怪的,我们只要适应这种新媒体就好了。


几十年前,电视出现时,也有人悲观地预测,越来越多人将不读书,理性思考能力将越来越差。但几十年过去了,情况并没有太差,不是吗?


但计算机技术(包括人工智能在内的新科技),与之前技术不同的是,它迭代、进化的速度,远远高过电视等所有其他技术,呈现出指数级爆炸增长。



与之相对的,我们人类大脑进化的速度却相当缓慢,我们今天的大脑是通过几百万年才进化而来的。


随着人工智能已经被运用到新媒体技术的各个领域,人类已经越来越失去了对这些技术的掌控。


纪录片中,有一位学者提出观点:算法是内嵌在代码中的观点


什么意思呢?技术不是中立的,也不是简单的工具,而可能带有价值倾向,甚至是有阶级性的。


当一套算法形成了自身的逻辑,并且复杂到连开发者都不能完全了解和掌控时,那么它很有可能会反过来,将人本身作为工具。



前段时间,《人物》杂志上一篇关于外卖软件算法的文章引起很大反响。在这篇文章中,我们看到,外卖员们正是成为了外卖软件,以及背后巨大的资本力量的工具,不得不牺牲自己的安全、健康,拼命地完成算法指派的任务。


其实何止是外卖员,我们每天不由自主地划动屏幕,下班之后,仍然自愿花费数不清的时间,在娱乐休闲中,把自己当成商品售卖给广告商,难道不也是正被算法操纵着吗?


看到发明这些软件的工程师都开始表示对这些不可控的软件的担忧,我们真的还能有信心,人类有能力,有足够的智慧来处理这日新月异的人工智能技术吗?


看到这里,或许你会感到很绝望,那我们究竟能怎么办呢?


从社会治理层面,我们当然希望可以有更严格,更公正,规则更清晰的监管措施,让那些真正有害的虚假消息、谣言被禁止,让自由的讨论被保护。


从个人层面,我们如何选择同样非常重要。


我们能不能克服人性的弱点,抵抗舒适圈的诱惑,打破同温层,不要只是接受被推荐给我们的内容,而主动去寻找、倾听不同的声音。


我们能不能和观点相反的人理性讨论,根据事实发表意见,而不是在任何事情上首先考虑站队。


或者最简单的,我们能不能抵御这些软件让我们不断刷新屏幕的诱惑,克服“红点强迫症”,关掉这些软件的通知功能。


这些都同样关乎我们能不能真正地把控这些技术,而不是被这些技术操纵。


本文来自公众号:局外人看电影(ID:cstkkj),作者:朵夫

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP