对我们隐秘操纵的过滤泡到底是什么?
2020-10-21 13:00

对我们隐秘操纵的过滤泡到底是什么?

本文来自微信公众号:新传研读社(ID:xinchuanyandushe),作者:方师师,原文标题:《方师师:过滤泡对我们的隐秘操纵》,头图来自:《监视资本主义:智能陷阱 》剧照


10月15日,我们邀请到方师师老师做客云端读书会,为同学们带来了她最新译作《过滤泡》一书的解读。


在这次讲座中,方老师主要为我们解读了五个问题:


  1. 何为过滤泡


  2. 过滤泡如何影响外部社会?


  3. 过滤泡如何影响我们?


  4. 如何看待过滤泡?


  5. 我们该如何处理过滤泡可能带来的社会问题?


何为过滤泡?


过滤泡这个词大家说了很多,不过,如果我们比较认真地来看一下这个问题,可能会有些不一样的想法。


在这本书的开头,帕里泽就指出:数字世界正在悄无声息地发生着根本的变化,没有人大肆宣扬,也没有人注意。这些用来社交的、搜索信息的、看演艺的、交友的APP,都开启了一种新的运营模式,也就是用算法来精心为我们编排看起来非常具有个性化的生活、而我们看到什么、听到什么、怎么工作、去和谁交往、去哪消费、聊到什么话题等等,有可能在背后都受到了算法的支配。这个现象引起了他比较惊恐的反应:我们会不会深陷到一个所谓的过滤泡中?


对于很多读者,尤其是专业新闻传播学的各位师友来讲,过滤泡这个说法也不新鲜了。因为早在20多年前,尼葛洛庞帝的《数字化生存》里就提到了“我的日报”;桑斯坦在他非常著名的书里也提到了“信息茧房”,再到后来的“回音室效应”等等,在我们这个学科更是讨论得非常多;再到后面,在数字新闻学中,人们担心数字化新闻的生产可能会带来的内容的去多样化;新闻增值的这样一种商业模式可能会带来的一些消极影响,以及包括社会心理学当中关于“群体极化”“确认偏误”的研究,可能都跟过滤泡这个概念相关。


过滤泡其实不仅仅只是一个单独的概念,而是它吸收了包括政治学、新闻传播学、社会心理学、未来学、技术社会学等各种学科的营养,所以到最后它才可以以一种比较直观的方式,给我们来呈现出这样一个问题。


那么,对于帕里泽来说,什么是过滤泡呢?他给出了这样的一个解释:新一代的网络过滤器通过观察你可能喜欢的事物,来推断你的好恶,它们是一种预测引擎,不断的去创造和完善一整套关于你的理论:你是谁、你下一步会做什么、你要什么,从而为我们每个人打造了一个独特的信息世界。它从根本上改变了我们接触观念和信息的方式。


这种个性化的过滤器是非常具有吸引力的,因为对于一些比如说像脸书、谷歌这样的大型网站来说,个性化算法推荐,嵌入式编辑等等,为它们提供了十分成功的互联网的经济模式。而对于用户来说,我们很乐意去接受这样的一个帮助我们从海量的信息当中打捞出跟我们个体最为相关的信息的方式。谁不想每天都沉浸在跟自己最相关、自己喜欢的这样的一个世界当中呢?这样的话,还可以避免我们因为海量的信息过载而导致的这种注意力崩溃。


但是,当我们欣然的去享用个性化给我们带来的这些红利的时候,帕里泽也就注意到过滤泡背后,可能会有一些隐秘的表现。


第一是封闭性,也就是用户被孤立和隔绝在过滤泡里。大家想想,这是一个非常孤独的,甚至是有一点点封闭的状态,这里面只有你一个人,没有人跟你在一起。


第二是隐蔽性,也就是当你置身于过滤泡的时候,你有可能意识不到它的存在,意识不到它是如何去运作的。这其中的很多逻辑都是隐藏起来的。而且这种隐藏可能会带有很多的偏颇,但是你都不知道。


第三是强制性,也就是随着过滤泡越来越多的参与到我们的日常生活当中,你被迫必须要使用它;或者是你使不使用它,接不接受这种服务,这种决策权永远都掌握在了这种程序的手中、平台的手中。你没有选择权,也无处躲藏。所以,我们有可能已经不可回避的置身于这样的一个日益个性化的社会里,我们必须要想一想,这样的个性化存在着怎样的一个意义。


过滤泡如何影响外部世界?


过滤泡如何影响着我们的生活世界?如同一个透镜一样,过滤泡通过控制我们看到和看不到的东西,来无形地改变我们所经历的世界。从过滤泡全方位的渗透进新闻业开始,一系列的问题和变化也随之产生了。


在传统的传播理论中,我们认为,新闻塑造我们的拟态环境,同时,也塑造我们对世界的观感,告诉我们什么是重要的、什么是值得我们去关注的、问题的规模是怎样、性质是怎样、我们需要有怎样的立场等等。这一系列与建立在其上的民主制度是息息相关的,因为民主的制度建立的基础是需要有一些共同的经验、共同的知识。


尽管之前的新闻也是有很多不完美的地方,但是它已经发展出了一套包括道德感和公共责任感的理论。而且,为了塑造公共领域,促进民主实践新闻业的理想等等,我们会要求它的一套做法符合我们的一系列的规范。但是,如果这个力量转移到了算法手中,而不是原来我们专业的编辑记者,我们的新闻工作人员手中,那么,算法这样的一套既是人造物、技术,同时它的来源又是公司的这样的一套机制,能不能胜任这一任务呢?


至少在这本书里,帕里泽认为这个是需要怀疑的,因为在帕里泽看来,从人工编辑的新闻转化到由算法过滤器来推荐的新闻,相当于是用一个具有明确的、经过充分辩论的公民的责任感和公民身份的意识体系,来交换了一个没有道德感的体系。虽然这个说法稍微有一点点夸张,但是他恰恰是希望用这样的一套方式提醒大家去注意,我们之前的体制虽然不完美,但是我们是有规范的,但是现在这一套体制,它的规范是非常模糊的,而且虽然可能有一些公司已经意识到了这个问题,但是依然没有办法真正的去完全解决这个问题,“给人们他们想要的东西”这样的一个说法,可能会变成一种肤浅的公民哲学。


我相信在互联网的初期,包括我自己,也包括很多的研究人员可能都对互联网抱有一种美好的愿望,认为它最终会提供一个媒介,去创造一个互通的文化。但是,过滤泡的存在可能给我们提供了一些非常不一样的东西,也就是一个被算法分类和算法操纵的公共领域,在本质上让权力有可能更加的集中了,让公民更加分散了,更排斥对话了。


但是,由于你可能仅仅在自己的过滤泡当中,你跟其他的群体是缺乏交流的可能性的,所以,你看不到和自己不同的想法、观点。如果我们一起来解决某一问题的话,我们找不到有哪些可以有共同商讨的基础、共同的知识结构,甚至越来越难以去超越自身的利益去思考问题,去下判断和行动。所以,过滤泡的控制权过于的集中于背后的这样一套机制,它可以轻易的被一些力量去筛选、排版、导流、控制,然后进行某种隐秘的操作。因此,帕里泽在这本书里是有点悲观的,他认为过滤泡对公共的政治生活和民主已经构成了一种本质上的威胁。


之前包括外卖小哥被困在算法里这样的一个案例,也是引发了热议。这个问题里面其实还涉及到程序员写代码的问题,其实,程序员也是困在自己的算法里,因为他们也有自己的各种的去考量的一些指标,所以对于他们来讲,他们也有可能仅仅是遵循了一种对于系统的感知,来去塑造这样的一个体系,那么,有可能最后的结果就变得不是那么的美好了。


过滤泡如何影响我们?


我们首先要意识到,我们其实是以一种间接的方式来认识事物的,“中介化”这个概念可能会说的更加的详细。除此之外,人的认知过程本身也充满了很多的过滤和扭曲。例如,大脑在接收信息时,也会帮我们过滤掉大部分和我们不相关的问题。


另一方面,当我们获取一个信息之后,可能会不断去获取类似的信息,那么这样就会形成了一个心理学中所谓的“确认偏误”:我们会倾向于相信那些能够强化我们原有观点的事物。我们去看我们想看的东西,我们去认同我们认同的东西,而随着这样的一个循环,那么就会形成固有的成见,或者是一种认识事物的微妙的平衡。


帕里泽发现,过滤泡的出现,其实在某种程度上放大了一些确认偏误,打破了一些我们本来可能会认为的是熟悉的想法,但是同时又导致我们对于自己的思维框架非常的自信。更重要的是,过滤泡从我们的环境当中移除了一些本来可以激发我们学习欲望的提示,虽然这些提示可能是以一种“意义威胁”的形式表现出来。但是,过滤泡把这样的一个意义威胁给移除掉了。所以,这些混乱的、令人不安的事物有可能就不会再出现在我们的视野当中,而有可能这些东西恰恰会激发我们去理解,或者是去获取一些新的事物和新的思想。


这本书里,帕里泽还做了一个比较有趣的比喻,他说过滤泡的世界很像是一个“阿德拉社会”,阿德拉是一种精神药物,是一种由安非他命混合而制成的,可以治疗某种注意力的缺失,也就是说它会降低我们对新的刺激的敏感性,然后会专注于某一件事情上。


同样道理,过滤泡也可能会为我们制造出了这样一种帮助我们去聚焦于某些事物的状态,就像药物一样。我想到了斯蒂格勒曾经说过的,媒体和药之间的关系:药既有优势,也有它的劣势;它可以治病,也是有毒的。


另一方面,过滤器的运行逻辑还决定了一个现象,就是通过你的身份去塑造你的媒体,而你的媒体反过来又塑造了你的身份,听起来像是一个回环,但其实确实是这样子。你点击了某个链接,说明你对某个事物感兴趣,而这个过滤泡就会更多的把跟事物相关的内容推送给你,那么你就会更多的去点击,那么到最后你就处于了一个你的循环,你的媒体潜移默化的塑造了你的身心,而决定并且控制了你成为一个怎样的人。所以,帕里泽提示我们,过滤泡给我们带来了一些便捷的优势,但同时,我们要明白自己付出的代价是什么。


如何看待过滤泡?


我们如何去看待过滤泡呢?这里面有一些比较主流的观点,比如说像管道论、编辑论和顾问论。


首先,管道论是一个带有明显中立的观点,认为网络技术是一种价值无涉的技术物件。不过,我们经过这样的一些辨析之后,会发现技术它虽然没有善恶,但它绝对不是中立的。所以在这个问题上,我觉得管道论有一点点免责的倾向。


第二个就是所谓的编辑论。这个和我们的新闻传播学距离比较近。我们知道,其实是在大众媒介时代,编辑就是我们的把关人,我们每天接收到的信息就是通过编辑室,通过集体的、个体的层层的把关之后,最后呈现在我们面前的。那么在这里,人们就会认为算法也是一种技术编辑,然后它也起到了帮我们去挑选内容的作用。但是,这个问题就在于以前我们的编辑有可能是受过专业的训练,同时,我们的媒体的一些倾向性和专业性其实都有一个固定的标准,但是算法到目前为止,有可能还没有形成一个比较规范的状态。所以说,在这个问题上,我们面对的是一个不那么专业的一个编辑。


那么还有就是顾问论。一些学者认为,管道论和编辑论其实都有一些不足,我们不能完全去依靠算法来给我们做推荐,我们只是把它能够看作是一个参考对象,然后从它这里边平衡一下,或者是给我现有的一些观念做参考等等。所以最主要的做最后决策的其实还是用户本身。


这三种意见是比较主流的,但是在这本书当中,帕里泽还提出了一个所谓的社会福利论。至少在他那个时候,这也算是比较有一个前瞻性的观点。他通过了大量的案例和访谈,认为需要有一种更为全面的社会福利的观念,也就是从公共的角度,去避开单一运营商、单一用户、单一技术的局限,从一个更为全面的视角来考虑这个问题。


我们该怎么做呢?


对于我们个人来讲的话,生活在这样一个过滤泡的世界中,有可能是我们无可避免的。那么,我们应该怎么做呢?这其实之前也是困扰我很长时间的一个问题。我也没有一个非常明确的、或者是非常好的解决方案。但是,我想给大家分享一下我自己的一些想法。


首先,我受到斯蒂格勒的启发,他对技术趋势和技术事实做了一个区分。技术趋势是指在未来有一些事物,它是不以个体或者是某一些力量的意志所变化的,它会像一种潮流一样,朝着某一个方向去发展。我觉得生活在这样的一个被过滤的世界当中,可能这是一个无法避免的事情,甚至有可能这样的一个趋势会越来越强化。这是一种技术趋势


但另外一方面,还有一个跟它相对应的概念,就是技术事实。也就是说,技术趋势无可避免,但是技术事实是可以进行一些改变的。我们可以要求互联网公司让这种技术的行为体,去考虑更为广泛的公共利益,提供更为优质的内容,以及更为全面的伦理状态。他们也可以在一些算法、指标、要素上然后进行调整。至少对于“快递小哥困在算法里”的案例当中,我们可以看出,互联网公司其实是可以做出某些举措来改变这个事情的。


第二,在自动化时代,我们要保有一种健康的怀疑精神。如果在机械时代,我们丧失了对于操作或者是劳动的知识,那么,在这个新时代当中,我们可能丧失了某种像个体或者是生命知识一样的存在。在这个意义上,我觉得尤其是自动化时代,有可能会制造出另一种,我觉得那个词用得还挺好的,因为它本来的翻译叫做“去无产阶级”,但是我更喜欢的一个翻译叫做“废人化”,也就是有可能在自动化时代,我们会面临一个“废人化”的状态。那么在这个状态当中,我觉得我们更加的需要一种健康的怀疑精神,然后对于这种自动提供的、送上门来的东西保持某种警醒的态度,它不是完全美好的,有很多问题需要我们去质疑。


第三,要敢于去反思结构和反思自身。我觉得过滤泡这个现象,其实从某种意义上来说,其实已经成为了我们社会结构的一个部分,而我们有时候其实是视而不见的,或者有时候我们其实意识到了,但是我们没有胆量去跟它展开抗争。我觉得不管是做学术研究也好,还是我们在实践当中也好,都需要有一种能够去凝视结构的勇气。同时在这个状态下,我们也要去反思我们自己:我们是不是太过于去贪图一些简便的、易上手的、能够带来即时快感的消费了?


最后,还有一个我自己的心得。我觉得在某种意义上,我们要及时去更新我们的知识结构。有可能在现在去看代码、写代码,还只是一些专业技术人员的技能,但是我觉得,在未来有可能就像大家掌握英语、掌握计算机一样,是每个人都应该具备的技能。同时,包括一些个人信息保护、个人数据保护方面的立法,以及法律规定的我们应有的权利等等,大家也应该在可能的范围内去尽可能多的去了解。


本文来自微信公众号:新传研读社(ID:xinchuanyandushe),作者:方师师

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP

相关推荐