亲爱的用户,您的判断力已被剥夺
2019-05-07 14:55

亲爱的用户,您的判断力已被剥夺

本文来自微信公众号:李子的人间博物馆(ID:museumofus),作者: 李子李子短信。头图来自:东方IC。


技术让我们的判断力缺失,而这并不是“后真相时代”的错。



2017年11月,戴尔•马博(Darryle Marble)携家带口来到了北卡罗来纳州乡下,参加一个叫“平地研讨会”的活动。


研讨会上大约有500人,无论背景、无论出身,他们全都笃信:地球实际上不是球体,而是一个平面。


马博是演讲嘉宾之一。他曾经为美国军队服役,在9·11事件之后被派去伊拉克打过仗。他是这样谈起他被“说服”的过程的——某天,他和女友在 YouTube 上搜一个科幻剧的时候,一部长达两小时、宣传平地论的“纪录片”出现在了搜索结果之中。


“所有这些事情,一旦你开始了解,就停不下来了。因为你在看一个视频的时候,就会看到旁边的相关推荐视频。”马博说。他在 YouTube 上开始了一番 “研究”,内容包括美国策划的“9·11阴谋”,以及控制全世界的罗斯柴尔德家族和光明会等等。“你最终会发现,没有任何东西是它看起来的那个样子。”


你一定觉得这样的观点十分荒谬。但是,我们所相信的东西,绝大多数都不可避免地来自他人;如果你身边所有的人都把谬误当做真理、接触到的大部分信息都是虚假错乱的,还能出淤泥而不染吗?能做到的人恐怕寥寥无几吧。


而在当下的互联网,这并不是危言耸听。


“无脑的产品,就是最好的产品?”


曾经,互联网的先驱者认为网络能打破无知的黑暗。他们相信,只要信息充分流动起来,人们就不会陷入谬误的包围之中。这个愿景至少前半部分是实现了:今天世界上超过一半的人能够使用互联网,网上的信息也超过了人类历史上任何一个阶段。



如果你在二十年甚至是十年前接触互联网,你或许会十分熟悉“门户网站”或者“论坛”这样的地方。大量的信息以前所未有的丰富程度展现在人眼前,人们仿佛获得了充分的自由,而搜索引擎的出现,则给了人无所不知的错觉。


然而,信息的爆炸增长,很快就到了人失去选择的程度;与此同时,我们的屏幕却渐渐缩小,直到手上5.5寸大小的一个触屏手机。互联网公司开始使用个性推荐的算法来给迷失的用户提供“最适合”的内容,也开始用自动播放、悬停预览、滑动切换等流畅交互,将选择的负担降至最低——到了不假思索的地步。


然而,这些“无痕”地推送给你、让你不假思索接受的东西,却可能会让你坠入另一种黑暗:像马博一样,陷落在无穷无尽的侧栏推荐和自动播放之中,被信息流和算法掌控所见的一切,面对重复万遍的谎言失去判断力。


“推荐算法到底推的是啥”


推荐算法无处不在。在购物网站上买一袋洗衣粉,算法会给你推荐三块香皂;看了一部侦探小说,算法会给你推荐三本推理悬疑。然而,在观点的传播上,算法却与我们的天性有着更加致命的契合:


用户喜欢和自己观点相同的东西,以及,算法知道用户喜欢和自己观点相同的东西。


你当然不需要多余的三块香皂,或者满书架的侦探和悬疑小说。然而,人对于观点的接收没有上限,而且总会用更多相似的东西去印证自己的认知。如果你不小心点开一个阴谋论的视频,YouTube 的算法便会假定你是其信徒,用“相关推荐”把你淹没,只要你有闲心观看,便可以照单全收。



你的所谓“个性”,在算法眼中不过是一个基于过往行为的“算法身份”(algorithm identity)——比如看到猫片有 68% 的概率点赞。这样简单的逻辑,能让算法将你的偏好无限夸大。你点击一个左翼观点,那么算法就会在你的时间线里安排各类左翼观点;而当你再次点击相应的内容,这个点击又会被算法识别为你对此类内容的偏好,然后在时间线里展现给你越来越多的左翼观点……


只有少部分人会像产品经理想的那样,用“折叠不喜欢的内容”等复杂的动作去“调教”推荐算法 [注1];大部分人只会进行直觉主导的简单行为,这能让人轻易进入不断自我加强的循环。


这就是线上内容消费的“信息茧房”。数据诠释了你的行为,你的行为又变成了数据本身。观点被不断地加强,不断地重复,不论是真是假。


而信息生产者在迎合算法的过程中,又给我们的“轻信”铺了路。



“这么多人点赞?!”


当下的互联网,数据就是一切。重要性、真实性和公共利益,以及用户的“品味”这样微妙的词汇,都太过虚无缥缈;只有点击、互动和传播才能通过算法诠释为实实在在的效果,决定内容能带来的收益。例如,在 Facebook 上,一篇文章在给定时间的点击数和互动数成为了是否出现在用户时间线的重要权重;微博的算法中,前一个小时的互动数量决定了后一个小时的位置。


数据决定着它内容的“重要”程度,也成为了内容生产者、运营者乃至读者趋之若鹜的东西。然而,追求数据的过程,却制造了大量的偏见和错觉。


利用情绪煽动来冲数据就是办法之一。可能任何一个新媒体编辑都非常熟悉这样的套路——给文章注入强烈的情绪,让用户带着相同的情绪在自己的时间线上表达、甚至发泄。德国明斯特大学的研究者分析了推特上超过16万条的政治观点类推文,发现带有情绪的内容的传播量显著高于没有明显情绪表达的 [注2]。而宾夕法尼亚大学的研究者分析了大量《纽约时报》的新媒体内容,发现带有情绪唤醒元素的文章——例如愤怒、惊讶、惊奇等——获得了最多的转发,扩散程度与文章的具体内容无关 [注3]



然而,一旦情绪变成了能够用数据体现的群体表达,就会形成危险的错觉。所罗门·阿希早在1956年就做过一个“从众实验”,让被试比较几根线段的长短。实验里有6个受研究人员雇佣的假被试,在1个真被试的面前故意给出错误的判断。有3/4的真被试,都被假被试的错误“带跑”,给出了同样错误的判断。


“如果嫌一篇文章太平淡,那就树个假的靶子,再使劲打它”,一个新媒体编辑这样跟我说,“如果看到留言里面的人都在打靶子,读者就更有可能会跟着表达,把文章‘转起来’。” 擅于用直觉共情的人类,对群体情绪很容易失去抵抗,这种情绪上的 “刻奇” [注4],能在算法支持的表达下展现得淋漓尽致。


从数据上看起来,所有的帖子都仿佛有着“原来我不是一个人”“简直太准了”的既视感。然而,算法的吊诡之处就在于,只有支持的、相信的、参与的,才会得到正面的展示;至于没说中、不支持、关掉窗口走人的那些,很大可能表现不到数据上。毕竟,在算法的指导和判断下,最有可能被点赞的内容,才会出现在相应用户的信息流里。那些“太准了、传疯了”的表象,不过是体现在你时间流里的数据样貌而已。



“每个人都在变笨,每个人”


相信谎言,并不需要太多思考,只需要被网络传播挟持。而谎言总是会顺着算法的思路,自动找到那些最需要、也最喜欢它的人:在时间的稀缺和信息过剩挤压下,懒惰而缺乏判断力的人。


回过头来仔细研究那些信了“平地论”的人,其实他们对平地的“学术价值”不感兴趣,地球是平的还是圆的跟他们没有半点关系——毕竟他们中的大部分一辈子也不会到地球的另一边。他们一遍遍重复的,是“我们被骗了”的愤怒情绪,而越容易被这样的情绪挟持,就越容易一次次点击“下一个”,寻找安慰和满足。


而在撞进这个圈子之后,他们被更多相同的情绪所淹没,看到更多的人在相信着这些,为它点赞、帮它传播,甚至还能聚在一起开一个研讨会——在群体里的安全感,让这些人更加坚定了地平的信念。



而你和我,都有可能成为这样的人。


在如今的互联网上,海量的信息与我们有限的时间之间,存在根本的矛盾。就 World Wide Web 基金会一项持续数周的可控研究显示,实际出现在用户时间线上的内容,仅仅为其理论可能(也就是订阅源在这期间释出的所有内容)的20%左右,就更不用说真正被看到的内容有多少了。


我们也并没有在互联网上养成深思熟虑的习惯。德国达姆斯塔特大学和德累斯顿大学的一项研究,调查了2009-2014年 Facebook 的用户行为,发现不管产品设计如何改变,用户对于单个内容的判断和消费都惊人地一致——要不要点开一个帖子的判断在10秒以内,平均9.5秒;用户每次拿起手机(或者登陆网页)平均会花掉6分44秒、滚过43个帖子;而对于朋友发的内容和商业网站的新闻内容,人们的注意力程度几乎相同——到了不过脑子的地步。判断一个内容是否值得一看的依据,也变成了有多少人在看,有多少人点赞,有多少人同意的直观数据。


更可怕的是,这些思维的懒惰面,会变本加厉地喂食出肤浅的算法,并成为重复的谎言中的一部分。机器根本不在乎真假美丑,它只是不停地计算我们最本能的喜好,并把内容不加区分地推送给我们。每一次点击,每一次互动,每一次传播,都成为了算法识别的“食粮”,成为别人眼中“这么多人在看”的依据。



是网络让信息变得粗糙扁平、谎言泛滥?还是我们本来就是愚蠢而冲动的动物?或许都有。当所有信息被压扁成一句话、一张图、一个短视频,并按照所谓的“喜好”推送,我们缺乏判断力、不愿思考、情绪化的弱点便会被无限放大。而将我们置身于传播的群体洪流中,生性从众的我们,更是难以抗拒——哪怕是彻头彻尾的谎言。


谎言被算法重复一万次就变成了真理,这大概是社交网络时代无法逃避的无奈现实。


注:

1,Facebook 的产品设计人员在接受 Slate 的采访时表示,“折叠”(fold)功能对于大部分人来说是非常强的负面行为,很少有人真的会使用;其中有5%的用户进行了全网站80%的折叠动作(被称为 super-folder),这部分人只是将折叠当做“已读”来使用,对这些人来说,这个动作其实已经失去了原本对于推荐算法的调节意义。

2,Stieglitz, Stefan, and Linh Dang-Xuan. "Emotions and information diffusion in social media—sentiment of microblogs and sharing behavior." Journal of management information systems 29.4 (2013): 217-248.

3,Berger, Jonah, and Katherine L. Milkman. "What makes online content viral?." Journal of marketing research 49.2 (2012): 192-205.

4,刻奇来源于德语词 kitsch,指个体的认知与情感表达主动地或者不自觉地遵从外在的强大的秩序,以判断这种体验是否正当、高尚、合乎时宜。

5,本文依旧要感谢@拇姬 和@Ent 的帮忙,虽然他们也……改不动了……_(:з”∠)_


作者按:对技术的审视、对我们自身需求和能力的反思,是我一直想做的事情,也希望更多的人可以借这个机会思考技术、思考自身。所以我决定借我自己的平台把它讲出来。并不是技术悲观,而是我们应该用怎样的方式来面对现在的技术。上周果壳那篇《当AI学会性别歧视》,作为作者,在写作和采访期间最触动我的,其实是技术人员努力调整人工智能偏见的努力。既然我们能够用技术改变世界,就应该有更好的技术来解决这些问题。


本文来自微信公众号:李子的人间博物馆(ID:museumofus),作者: 李子李子短信。


本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定

相关推荐