你被互联网隐秘操纵了吗?
2020-09-02 19:40

你被互联网隐秘操纵了吗?

本文来自微信公众号:造就(ID:xingshu100),摘编自《过滤泡:互联网对我们的隐秘操纵》,作者:伊莱·帕里泽,翻译:方师师、杨媛,题图来自:视觉中国


今日头条的Slogan是:“你关心的,才是头条”,和抖音一样,它们会根据你的喜好来推荐内容。淘宝、京东、拼多多等APP同样大量采用兴趣推荐这样的算法,不同的人输入同一个关键词,出来的展示页面甚至千差万别。


互联网的发展让人类身处日益算法的社会而不自知。一方面,它可以让你更便捷地找到自己感兴趣的资讯或商品,同时它也让人“上瘾”,比如“抖音五分钟,人间三小时”,让你与不同的意见信息分离,隔离在自己的文化或思想泡沫中。


随着技术的发展,人们享受了更便捷的生活,但背后可能需要付出自己的隐私和部分控制权;人和技术分别扮演着怎样的角色,这些技术为谁工作;科技越来越善于左右人们的注意力,但最终,它会把我们的注意力引向何方……


以下文字节选自《过滤泡:互联网对我们的隐秘操纵》第七章,由出版社及译者授权发布。


1. 流动的世界 


丰富的心理模型和对新数据流的测量,从心率到音乐选择无所不包,为网络个性化开辟了新的领域,其中的变化不仅仅针对产品或新闻片段,连网站的外观和风格都可以因人而异。


为什么网站要看起来都是一样的?不同的人不仅对不同的产品反响不一,而且对不同的设计感觉、色调甚至不同类型的产品描述也会有不同的反应。不难想象,针对不同的顾客,沃尔玛的网站可以有不同的风格:有些是柔和而温暖的色调,有些则是很有个性的极简主义设计。只要容量允许,为什么针对每个客户只能有一种设计?为什么不能根据我是生气还是开心,给我看网站的不同版式?


购物网站会分析用户的点击量,找出哪种信息和展示风格对用户最有效,然后随着特定用户的认知风格来调整网站布局


这并非科幻小说中的情节。在麻省理工学院的商学院,约翰·豪泽(John Hauser)领导的一个团队已经开发出了所谓的“网站变形”(Web site morphing)的基本技术,购物网站会分析用户的点击量,找出哪种信息和展示风格对用户最有效,然后随着特定用户的认知风格来调整网站布局。


豪泽估计,变形的网站可以增加21%的“购买意向”。对整个广告行业来说,这意味着数十亿美元。而且事情还没完,通过这种方式推销商品之后,新闻和娱乐网站也可以变形,带来更高的收益。


一方面,网站变形可以让我们的上网体验更舒适。通过提取用户的数据资料,上网就像老朋友见面,宾至如归。但它也为一个诡异的梦境打开了大门,在这个世界里,周围的环境不断在我们背后变来变去。更加诡异的是,人们的使用体验可能会像做梦一样,与他人分享的可能性越来越小。


拜“增强现实”所赐,这种体验可能很快在离线状态下也能正常运行。


人们的使用体验可能会像做梦一样


“在现代战场上,”雷神航电(Raytheon Avionics)的经理托德·洛弗尔(Todd Lovell)告诉记者,“数据实在太多了,而大多数人不知道如何使用它。你如果只是试图用眼睛来看,一点一点地阅读它,就永远不会理解。因此,现代科技的关键是获取眼前所有的数据,将其转化为有用的信息,让飞行员秒懂,然后快速行动。


洛弗尔主持的项目代号为“天蝎”(Scorpion project),目标是把谷歌整理在线信息的做法应用于现实世界。


天蝎计划中,飞机驾驶员会戴上一个单片眼镜,该显示装置可以实时诠释飞行员视野中的景物。它对潜在的威胁进行颜色编码,突出显示在何时何地导弹锁定了敌方,还具有夜视功能,减少飞行员在分秒必争的情况下还要看仪表板的需要。喷气式飞机飞行员保罗·曼西尼(Paul Mancini)对美联社说:“整个世界都变成了一块屏幕。”


这就是增强现实技术,它正迅速从喷气式飞机的驾驶舱转移到消费设备上,过滤掉日常生活中的杂音,提高重要信息的信号。将你的苹果手机摄像头和一个餐馆推荐程序Yelp配合,对准某家的店面,你就能看到食客们的评级随意地显示在上面。一种新型的主动降噪耳机可以感知和放大人类的声音,同时降低其他街道或飞机的噪声。新泽西州的梅多兰兹足球场耗资1亿美元开发了一种新的应用程序,让进场观赛的球迷能够实时分析比赛,查看重要数据,并从不同的角度观赏关键时刻。现场的观众不仅能够亲历赛场气氛,同时也能享受电视观众的全方位资讯覆盖。


美国国防部高等研究计划署(DARPA)正在研发一项技术,如果成功了,连天蝎计划都将黯然失色。自2002年以来,DARPA一直在推进它所谓的“增强认知”(AugCog)研究。结合认知神经科学和大脑成像,该研究致力于寻找最有效地传递重要信息到大脑中的方法。增强认知的前提假设是,单人同时完成多线程任务的能力是有基本限度的,而“这种能力本身也会随着一系列因素的变化而波动,包括精神疲劳、新奇感、厌倦感和压力”。


增强认知”致力于寻找最有效地传递重要信息到大脑中的方法


通过监控大脑中与记忆、决策等相关的区域的活动,增强认知设备可以确保找出并强调最重要的信息。如果你的视觉可吸收的资讯已经达到上限,系统可能就会发送音频警报。


根据《经济学人》报道,在一项增强认知的试验中,用户的回想能力提高了100%,工作记忆提高了500%。如果这听起来有点不可思议,那么请记住:DARPA也参与发明了互联网。


增强现实技术是一个蓬勃发展的领域,澳大利亚研究个性化和增强现实的专家加里·海斯(Gary Hayes)认为,至少有16种不同的方法可以用来提供服务和赚钱。在他看来,导游公司可以提供增强现实导览服务,让游客在逛街的时候可以看到关于建筑物、博物馆文物和街道的信息,以半透明的方式叠加于周围环境。购物者可以使用手机应用程序立即获得他们感兴趣的产品信息,还能进行比价(亚马逊已经可以提供这项服务的初级版本了)。而增强现实游戏可以将信息覆盖在真实世界上。


增强现实技术提供了附加价值,也为厂商以新的方式重新引发消费者注意和接触广告提供了一个机会。只要肯花钱,就可以用数字的形式把商标叠加在美式足球场的画面上。


但增强现实技术能在现实世界以个性化的方式打广告:比如说你打开一个应用程序,想在人群中找一个朋友,附近一栋建筑上就出现了一幅巨大的可口可乐广告,上面的模特是你的脸,还有你的名字在上面。


当个性化的视听资讯与面部识别结合起来时,事情就变得更有意思了:你不仅能够过滤信息,还能过滤人。


OkCupid是网上最受欢迎的约会网站之一,它的创始人之一克里斯·科因(Chris Coyne)有段时间一直在思考怎样过滤人。科因精力充沛,谈吐诚恳,思考问题时眉头紧锁,表达观点时会挥动双手。主修数学的时候,他开始研究如何使用算法为人解决问题。


“用数学来赚钱的方法很多。”我们在纽约的韩国城见面,一起吃石锅拌饭。科因有许多同学去了对冲基金从事高薪工作。“不过,我们感兴趣的是如何用数学让人们快乐。”他说。还有什么比帮助人们坠入爱河更让人开心的呢?


“用数学来赚钱的方法很多”


科因邀请大学室友萨姆·耶格尔(Sam Yeager)和马克斯·克罗恩(Max Krohn)一起研究目前的约会网站,但是越看越生气:很明显,那些约会网站更想让人们赶快刷卡入会,而不是牵红线。你一旦付钱了,就会发现,那些帅哥美女的账户已经闲置多年,或者根本不回复你。


科因和他的团队决定用数学来解决这个问题。网站提供的服务是免费的,他们不再提供一刀切的解决方案,而是为网站上的每个人开发个性化的匹配算法。就像谷歌利用点击率来优化搜索结果一样,他们想尽一切办法最大限度地提高用户之间真正对话的可能性。


按照他们的想法,如果你能在用户之间搭建起互动的桥梁,财源将会滚滚而来。而在本质上,他们是为寻找伴侣的人们搭建了一个现代搜索引擎。


当你登录OkCupid时,你会被问到一连串关于个人的基本问题。你相信上帝吗?你参加过三人行吗?你厌恶抽烟吗?你介意第一次约会就发生关系吗?你有性病吗?(如果回答是,你会被送到另一个网站。)你还可以表明你希望未来的伴侣如何回答这些问题,以及他们的答案对你有多重要。


综合这些问答,OkCupid会创建一个让用户自定义的加权方程,算出和你最合适的对象。当你选择在本地区搜索时,同样的算法会对速配指数进行排序。OkCupid运用服务器集群的强大运算能力,能根据200套问答模型对一万人进行速配排序,在0~1秒之内给出结果。


他们必须这么快,因为OkCupid的流量正在激增。每天晚上,成千上万的问答资料流回他们的系统,每天新增用户上千人。而他们的系统也越来越好用。


科因告诉我,未来你会看到人们带着增强显示器走来走去。他以一个晚上泡酒吧的男士为例:你一进去,相机立刻扫描了室内所有人的脸,并与OkCupid的数据库进行比对。“设备告诉你,那边那个女孩和你的速配率有88%。简直美梦成真!”


每天晚上,成千上万的问答资料流回他们的系统,每天新增用户上千人


弗拉基米尔·纳博科夫(Vladimir Nabokov)曾经评论说:“‘现实’这个单词,是少数几个如果不加引号就没有任何意义的词。”科因的愿景可能很快就成为我们的“现实”。


这一愿景有着无穷的潜力:外科医生永远不会漏缝一针,士兵永远不会误伤平民,世界更加透明,信息更加密集。但同时也有危险:增强现实代表着朴素的经验主义的终结以及我们眼中的这个世界的终结,取而代之的是一种更加变幻莫测、波谲云诡的情况的开始——现实世界过滤泡出现了,并变得越来越难以逃脱。


2. 失控 


在个性化无处不在的未来,好处不胜枚举。


智能设备的普及,从吸尘器、灯泡到相框,可以随时随地为我们创造百分百如你所愿的环境。环境智能专家戴维·赖特表示,在不久的将来,我们甚至随时都可以按照自己的偏好调整房间照明亮度。当房间里不止一个人的时候,电灯可以自动平均所有人的偏好,给主人的偏好加权,计算出所有人都能接受的亮度。


支持增强认知功能的设备会帮助我们追踪那些我们认为最重要的数据流。在某些情况下,比如有人受伤或者失火了,警报器会设法提升报警等级,直到引起我们注意,救人一命。


虽然基于脑波阅读的增强认知应用距离大众普及还为时尚早,但一些基本理念类似的产品已经问世。比如谷歌的谷歌邮箱推出了“优先收件箱”(Gmail Priority Inbox),会过滤电子邮件,突出显示它认为更重要的邮件,就是根据增强认知的原理。


与此同时,增强现实过滤器提供了一种可能性,可以给现实加注释和超链接,让我们在充满资讯的环境中提高工作效率,更快地吸收信息,做出更好的决策。


这是好的一面。但有所得必有所失。个性化提供了方便,但你需要把一些隐私和控制权交给机器。


随着个人数据变得越来越有价值,我们在第一章中描述的行为数据市场可能会爆炸式增长。一家服装公司如果认定,知道了你最喜欢的颜色会带来5美元的销售额增长,就能为这个数据定价,其他网站也会找理由来问你。(虽然OkCupid不愿透露商业模式,但它靠的很可能是向广告主提供数据,让广告主根据那数百个个人问答来锁定用户。)


某些时候,数据意味着风险


虽然这样的数据采集许多是合法的,但有些不是。数据特别适合在地下市场交易,因为不需要证明来历,也不用知道转手记录。赖特称之为数据清洗(data laundering),而且这一过程已经开始很长时间了:间谍软件和垃圾邮件公司向中间商出售可疑的衍生数据,中间商把这些数据输入数据库,再卖给大公司,帮助其进行营销活动。


此外,由于数据的转手过程通常不透明,所以谁会代你做决策、决策的内容是什么、决策的目的何在,这些问题都不清楚。当我们谈论信息流时,这些问题很重要,但当这种力量要影响我们的感官时,就更重要了。


2000年,太阳计算机系统公司的联合创始人比尔·乔伊在《连线》杂志发表文章,题为《为什么未来不需要我们》(Why the Future Doesnt Need Us)。他写道:“随着社会及当前的问题变得越来越复杂,随着机器变得越来越聪明,人们会更多地让机器代替他们做决定,仅仅因为这么做有更好的结果。


人为决策不如机器决策,这种情况或许很常见:机器驱动的系统确实有非凡的价值。这些技术承诺它们的所作所为能给我们更多自由,让我们更能掌控世界,比如跟随我们的奇思妙想和情绪变化的灯光,帮助我们排除闲杂琐事干扰的屏幕和图层,以此减少为生计而进行的繁忙工作。


讽刺的是,这种技术提供的自由和控制权,恰恰是通过剥夺我们的自由和控制权得来的。当遥控器上的众多按钮缺少“换台”这一基本功能,我们还可以接受,但是遥控器能控制我们的生活的话,事情就严重了。


平心而论,未来科技的效能应该和过去差不多,够好,但不完美。肯定会有各种各样的问题,也会有混乱和烦恼。未来肯定会有大故障让我们反思当初创建整个系统是否值得。


我们也将承担生活中的风险:本来设定协助人类的系统会转而对我们造成威胁,就像婴儿监视器本来是为了照顾宝宝,但如果被黑客入侵就会变成一个监控设备,让家人暴露在威胁中。我们对个人环境的掌控力越大,一旦被夺走,我们任人宰割的可能性也越大。


有鉴于此,我们需要铭记这些系统的基本逻辑:人不能独自创造世界。你生活在个人欲望和市场因素的均衡之中。虽然在许多情形下,这种均衡让人生活得更健康、更幸福,但这种均衡也提供了让一切商品化的机会,甚至包括我们的感官。你可以不去理会广告,但如果广告通过增强认知一直强化到让你无法无视,甚至控制了你的注意力,那么这件事简直不堪设想。


由此我们不得不回到杰伦·拉尼尔的问题上来:这些技术为谁工作?如果以史为鉴,可知我们可能不是主要客户。随着科技越来越善于左右我们的注意力,我们需要密切关注它把我们的注意力引向何方。


本文来自微信公众号:造就(ID:xingshu100),摘编自《过滤泡:互联网对我们的隐秘操纵》,作者:伊莱·帕里泽,翻译:方师师、杨媛

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定

相关推荐