23 页机密文件显示,Facebook涉嫌贩卖640万青少年“情绪状态”,这些情绪用来干嘛了?
2017-05-24 12:37

23 页机密文件显示,Facebook涉嫌贩卖640万青少年“情绪状态”,这些情绪用来干嘛了?

本文编译自 Wired,原文标题 ‘Get Ready for the Next Big Privacy Backlash Against Facebook’,编译时略有删减。


这份 23 页的机密文件是为 Facebook 一位潜在广告客户准备的,旨在彰显 Facebook 帮助广告商向‘需要鼓励的年轻人’精准投放广告的能力。根据 The Australian 报道,Facebook 通过实时监控用户发送的贴文、照片、互动、线上活动来追踪用户的低落情绪。另外,Facebook 已经承认了这份报告属实,但拒绝透露他们是怎样根据贴文判断用户情绪的。


这件事被曝光的当天,Facebook 迅速发表了一份公开声明,称 The Australian 报道的前提是在‘误导人’。因为‘Facebook 并没有提供基于用户的情绪状态来投放广告的工具’。这个社交媒体大亨还保证,他们对青少年用户的调查永远都不会用于广告投放。Facebook 还在这份声明中提到,这份针对未成年人的分析报告,并不符合 Facebook 的报告审核机制,所以 Facebook 会‘审查所有的细节,纠正疏漏’。这份声明实际上是在暗示,那份机密文件并没有得到 Facebook 总部的认可。


一位 Facebook 发言人表示,那份分析报告是一位广告商委托 Facebook 做的。但这一点 Facebook 在公开声明中并没有说明,也没有解释那份报告为什么最后会出现在提供给潜在广告商的机密文件里。


Facebook 在声明中只说了那份分析报告是一位澳大利亚的研究员做的。但 The Australian 获取的机密文件是由两名 Facebook 澳洲主管撰写的,他们负责 Facebook 和广告商的对接。


隐私保护者和社交媒体研究人员透露,这份曝光文件来得正是时候,因为他们正在倡议,要求提高合法监视消费者的门槛。其中一些人还给马克·扎克伯格写了一封公开信,在信中阐释了追踪未成年人信息产生的道德影响。远有 Facebook 利用选民心理为特朗普拉选票的‘政治丑闻’,近有这位社交媒体因为违反欧洲的数据收集法律而被罚款的负面消息,他们希望这次的争议能对 Facebook 追踪用户敏感数据的问题产生进一步的影响。


这位市值约 4000 亿美元的社交媒体大亨最近真是摊上事了。


Facebook 一向因为在保护隐私方面做的不好而饱受攻讦。现在,它应该是进入新一轮的抨击高潮了。其实,最让人骇然的不是 Facebook 掌握了多少用户的资料,而是 Facebook 是否会把这些资料变成赚钱的‘武器’,而且是以用户毫不知情的方式,不过 Facebook 本来就不想让他们知道。


亲爱的马克·扎克伯格


2012 年,Facebook 进行了一项‘情绪感染’实验。在近 70 万名 Facebook 用户不知情的情况下,Facebook 调整了 News Feeds,随机地向受试者推送更积极或更消极的内容,并观察这些改变是否会让受试者高兴或难过。这个实验没有遭泄密的文件,也没有留下别的确切证据,但当实验结果于 2014 年公布时,这个像社交工程一样的实验引起人们的强烈抗议。Facebook 表示‘没有预料到人们会是这样的反应’,随后加强了对实验的审查。


Facebook 发言人称,最近那份曝光文件中提到的分析调查符合 Facebook 的隐私与数据政策,例如隐藏个人身份信息。但它却不符合更严格的调查规范,即在研究‘敏感人群’如未成年人时,要有额外的审查。



但是,The Australian 的报道称,Facebook 采集了 640 万青少年用户的心理资料,这些用户来自澳大利亚和新西兰,包括 190 万名高中生,他们的平均年龄是 16 岁,最小的只有 14 岁。


机密文件曝光一周后,来自美国、欧洲、巴西、墨西哥的 20 多个非营利组织联名上书扎克伯格,要求 Facebook 公开文件,因为这件事的健康和道德影响‘太大而不能隐瞒’。‘Facebook 在年轻人的生活中已经成为了强大的文化和社会力量’,他们在公开信中谈道。他们还说,像 Facebook 这种大型企业不能把自己的错误归咎于内部调查体制的偏差。他们还警告,商人和一些别有用心的人可能会利用研究结果牟取暴利——‘针对处于情绪低迷期的年轻人’。


‘我们很重视这些组织提出的请求,上周我们还联系了其中几家,并同意举行一次会议来讨论这个调查。我们和期待和他们的合作,’Facebook 的发言人说道。


Jeff Chester 是数据民主中心(Center for Digital Democracy)的执行总监,他将出席 Facebook 的会议。这家非营利性组织也签署了给 Facebook 的公开信。‘我很想看看,Facebook 有多诚实。他们打算承认他们做过的所有类似研究吗?这对全世界的 Facebook 和 Instagram 用户又意味着什么?或者他们想和我们讨论一个事实——他们正在不断增强 Facebook 这个社交平台的能力来帮助广告商鉴别和追踪用户数据。’


Chester 一直在密切关注 Facebook 不断增强的复杂营销能力。在营销这个工具箱里,神经营销学(neuro-marketing)和生物统计学(biometric research)可以测试人对广告的反应,比如大脑、心脏的反应,还有眼球转动、引起回忆。Chester 指出最近 Facebook IQ(Facebook 的研究部门,负责协助营销人员)的一份报告显示,Facebook 利用 EEG 耳麦来测试 VR 中的社交关系和情绪。


‘Facebook 称这次的事件是偶然的,但我们知道不是。因为这次 Facebook 的行为和以往分析用户的情绪反应时一模一样,对象都是包括年轻人、黑人、拉丁裔美国人在内的弱势群体,’Chester 说道,‘Facebook 就是一台大型的情感挖掘机器。’


如果被研究的对象不是青少年用户——或者被研究的情绪不是消极的,Facebook 的公关可能还有说服力;隐私拥护者的激愤可能会引起人们注意,但也可能很快被遗忘。


‘The Australian 的报道是一根引火线,它会促使人们去调查 Facebook 的内部运行机制。其实在很多方面 Facebook 都在利用用户的心情赚钱,’Chester 的妻子 Kathryn Montgomery 说道,她是美利坚大学的教授,同时也是该校通信研究部的主任。


一个崭新的广告时代


Facebook 利用青少年缺乏安全感来赚钱的做法很像文学史上的-狂飙突进运动(sturm und drang),这种大型的广告营销手段至少从二战时就存在了。毕竟,整个广告行业生存的前提就是要充分利用消费者的情绪状态。但是,在 Instagram 上向 Kylie Jenner 的关注者展示化妆品广告是一回事儿,利用算法向情绪低落的 14 岁青少年展示减肥茶的广告又是另外一回事了。


实际上,Montgomery 和 Chester 为保护年轻人的数据隐私已经努力了几十年。这对夫妇促进了儿童网络隐私保护法(Children”s Online Privacy Protection Act)在 1998 年通过,该法案限制了对 13 岁以下儿童进行数据收集和网络营销。法案的创立初衷是防止网络公司从事欺诈活动,如在没有家长允许的情况下用游戏和测试来收集儿童的信息。同年,美国联邦贸易委员会(FTC)控告 GeoCities 误导儿童和成人消费者,使用他们的私人信息。从那时起,侵犯了消费者隐私的公司,无论规模大小都被罚了款,甚至包括美剧《硅谷》中的公司 Pipechat。


过去在处理和未成年人相关的问题时,Facebook 一直是开放、合作的。2012 年华尔街日报报道 Facebook 正在考虑允许 13 岁以下的儿童开通账号,隐私保护组织立即游说 Facebook 不要对上述人群开放使用通道。Facebook 理解未成年人需要额外保护,所以即使后来允许了未成年人注册 Facebook, 其账户的位置分享功能也默认为关闭,未成年人用户分享贴文时还会收到 Facebook 的警告。


事实上,Facebook 有时也在用自己的追踪本领来保护用户,比如最近发布的 AI 防自杀工具,可以‘帮助现实生活中的人’。‘我们当然也想帮助那些身处险境的人们,比如当一个人有自残倾向时,他的朋友可以报告给我们。但 Facebook 具备追踪用户信息的能力并不意味着 The Australian 的指控是真的,’Facebook 发言人说道。


无论如何,随着精准广告推送技术的成熟,人们需要更多的默认保护措施。因为广告商想以一种‘隐蔽、持续、交互’的方式来向人们精准地推送广告,Chester 说道。随着人们在不同的网络上使用越来越多的设备,收集信息的公司获取的用户信息可以装满好几个银行的保险库了,包括用户的位置、最近的生活、亲密团体,或者理论上最有用的东西——情绪状态。


‘这就是广告追求的最高目标,’密歇根州立大学(Michigan State University)的一位助理教授 Saleem Alhabash 说道。消费者在某个特殊时期产生了某种特殊需求或想法,只需向他们提供符合心情的广告信息,广告商就能得到巨大的回报。


但 Alhabash 相信公司在大多数情况下都有做生意的自由。‘我觉得一般意义上的广告都没有操纵消费者,’他说,‘只有当广告利用消费者的个人信息诱导他们对不需要的东西产生狂热的购买欲望时,这才是操纵。’Alhabash 还做了一项研究,调查 Facebook 的酒广告能在多大程度上提升消费者喝酒的欲望。


最近 Facebook 陷入了一系列的负面新闻,人们担心 Facebook 能影响到现实生活中的行为(如针对非裔美国人的压制选民运动)、微观定位可能会被应用于广告投放,这次曝光的机密文件似乎代表着人们对 Facebook 的其他担忧。


‘Facebook 推送假新闻、散步仇恨言论、对英国脱欧、美国大选和其他政治活动产生巨大影响。伴随着这些争议,我们进入了一个新时期。’Chester 解释道。


秉公执法的欧洲


Facebook 运气不太好。The Australian 曝光机密文件之时,欧洲的监管机构正在严厉打击‘不负责任的’社交媒体,指责他们‘对用户的举报重视程度不够’。这也是德国司法部长在 3 月份提交一份法律提案的动机。根据这份提案,社交媒体公司如果对非法内容和仇恨言论的举报反应不够快,他们会遭到高达 5000 万美元的罚款。


上周,焦点转移到了 Facebook 侵犯隐私的问题上去了。上周二,法国、荷兰、西班牙、德国、比利时的数据保护机构(DPAs)发表了一份联合声明,公布了各个国家对 Facebook 侵犯隐私问题的调查结果,其中还涉及 Facebook 为了广告目的对私人数据进行加工。


法国和荷兰已经对 Facebook 进行了名义上的惩罚——一小笔罚金,不过这只是前戏。欧洲本就严格的隐私保护法以后会变得更严格。欧洲各个国家对隐私保护问题越来越敏感,看来给硅谷那些公司上‘紧箍咒’的时间为期不远了。


2018 年 5 月 25 日起,通用数据保护条例(General Data Protection Regulation)将在欧盟正式生效。一旦新的保护法开始执行,社交媒体公司就得更加严肃地对待隐私这个问题了,如果他们不想被罚到破产的话,欧洲消费者组织(European Consumer Organization)高级法律顾问 David Martin 谈到。


上周二,法国对 Facebook 处以 15 万欧元的罚款,理由是 Facebook 非法收集用户数据用于定向广告,这一数目是目前的最高罚金。而根据新法规,罚金可高达 2000 万欧元,或者占该公司全球收入的 4%。不管怎么算都比现在要高,Martin 说道。


对于像 Google、Facebook 这样市值数千亿美元的大公司,遵守法律太重要了,否则失去的就不只是被罚的钱了。美国的隐私保护者还希望欧洲的这种好势头能‘传染’给美国,这样硅谷的寡头集团就不得不为敏感数据制定更严格的保护条例了。‘我的欧洲同事打趣我“瞧,你们只有公开信,而我们已经有了强制实施的法律了”,’Chester 笑道。


上周二发表的联合声明中,荷兰政府通报 Facebook 违反了数据保护法,在没有得到明确许可的情况下使用了 960 万荷兰用户的敏感数据,包括基于用户的性取向给他们推送定向广告。Facebook 已经改变了这一不当做法,荷兰 DPA 称如果 Facebook 没有停止侵犯行为,将会对其实施制裁。


关于 Facebook 在欧洲遭遇的处罚,另一位 Facebook 发言人称,Facebook 对法国政府和荷兰政府的调查结果表示无法苟同。它坚持认为自己的做法是合法的,不过也欢迎协商解决矛盾。


‘在 Facebook 眼里,让用户掌握他们的隐私是我们做每件事的核心,’发言人说道,‘最近几年,Facebook 一直在简化政策,好让人们理解我们是怎样利用信息让 Facebook 变得更好的。比如,我们建了好几个小组来专攻隐私保护问题,组员有工程师、设计师;我们还提供了供用户选择和控制的工具。’


虽然 Facebook 有一套自己的说辞,但欧洲国家的调查结果和 The Australian 曝光的文件还是能说明一些问题,况且曝光的文件使得 社交媒体追踪缺乏安全感的青少年这个疑云更加让人不安了。


利用用户的情绪状态来精准营销,我们离这个反乌托邦的噩梦可能只有几下鼠标的距离。

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP