文章来自公众号：Nature自然科研（ID：Nature-Research），原文作者：Kate Starbird，题图来自：视觉中国。
凯特·斯塔伯德（Kate Starbird）说，对虚假信息的误解让我们很容易在网上被操纵。
7月早些时候，白宫主办了一场“社交媒体峰会”，旨在重塑并转移人们对严重恶意操纵网络言论的注意力。已经有很多人在讨论算法、商业模式和人类冲动，正是这些因素使得社交媒体生态系统容易受到虚假信息传播（故意传播误导性内容）的影响。尽管在这个问题上，大型科技公司往往不够开放，或者没有动力去解决，但它们已经开始采取行动，反对这种被Facebook称为“协同不真实行为”
（coordinated inauthentic behavior）的现象。
来源：pixabay
但虚假信息并不像大多数人想象的那样一成不变：虚假信息传播背后的那些人故意将精心策划的言论传播与线上自然存在的原生言论传播混为一谈。受众变成心甘情愿但不明就里的合作者，帮助实现虚假信息传播人员的目标。这使得维护线上空间的工作变得更加复杂。
在我的实验室对围绕“黑人的生命也很重要”（#BlackLivesMatter）、危机事件后的阴谋论以及叙利亚冲突等话题展开的网络言论进行研究时，我们发现了宣传多种不同观点的虚假信息传播，这些观点往往相互矛盾。起初，我忽略了它们的影响，希望能了解这些传播现象背后更重要的根本现象。但最终我开始看到虚假信息传播是如何扭曲线上对话和全球政治话语的，于是我改变了研究重点。多年后，曾经导致我对虚假信息不以为然的种种误解，继续阻碍着人们对这一威胁的反应。
也许最常见的误解是虚假信息仅仅是简单的错误信息。如果真是如此的话，平台可以简单地给信息添加“真”和“假”标签，这是一种经常被提出来的策略。但虚假信息往往将真实信息与虚假信息层层叠加在一起——一个准确的事实被放在了一个误导人的语境下，一张真实的照片故意被贴错了标签。关键不是要确定一个特定的帖子或推特的真实性，而是要了解它是如何被放置在一个更大型的虚假信息传播活动之中的。
另一个误解是，虚假信息主要来源于产生虚假内容的代理（付费的“喷子”，水军），而自动账户（“机器人”）会促进其发酵。但是，有效的虚假信息传播涉及到不同的参与者；他们甚至可能包括了大多数不知道自己角色的“不知情的代理”，但他们放大和美化了这些使社区两极分化，让人对科学、主流新闻和西方政府产生怀疑的信息。
这个战略可以追溯到几十年前，在劳伦斯·马丁·比特曼（Lawrence Martin Bittman）的著作中描述得再清楚不过了。他在1968年从捷克斯洛伐克逃到西方，并成为一位杰出的学者（L.Bittman，《克格勃和苏联的虚假信息》（The KGB and Soviet Disinformation）；1985）。从历史上看，操纵记者是最主要的策略。如今，社交媒体平台已经为新的意见领袖赋能，并扩大了其目标受众的范围。我们看到真实的线上社区成员成为虚假信息传播活动、联合创作框架和叙事的积极贡献者。来自有目的的行动者的单向消息相对容易识别和消除。对于研究人员和平台设计者来说，一个长期性的挑战是如何鉴别不知情的大众人群在虚假信息传播当中起到了什么作用。要决定如何去回应这样的作用也同样困难。
也许最令人困惑的误解是，虚假信息传播的内容与这类传播活动的目标是一致的。在战术层面上，虚假信息传播确实有特定的目的，比如说传播阴谋论——FBI策划了一场大规模枪击事件，或者不鼓励非洲裔美国人在2016年投票。然而，通常来说，具体被传播的特定消息并不重要。我和其他一些人认为，虚假信息的广泛传播正在通过助长怀疑和破坏民主社会所要求的共同基础的方式，破坏民主进程。
也许最危险的误解是，虚假信息传播只针对不理性或不受教育的人，它只针对“（除了我之外的）其他人”。虚假信息通常会明确地使用批判性思维的修辞和技巧，培养虚无主义的怀疑论。我的学生艾哈迈尔·阿里夫把它比作通过耳机收听静电。它被设计出来的目的就是压倒我们理解信息的能力，促使我们认为最健康的反应是置身事外。当虚假信息的内容吻合我们的政治身份时，我们可能很难看到这个问题。
虚假信息传播活动攻击我们最脆弱的地方：我们价值体系的核心，围绕着言论自由等社会价值和“让人们走到一起”等社交媒体平台的目标。作为个体，我们需要更多地反思我们如何与网上的信息互动，并考虑到操纵我们的行为很可能就来自我们自己的社区内部。
在社交媒体平台能够解决如何识别和打击虚假信息之前，它们需要弄清楚哪些行为是有问题的，即使这些行为可能有利可图。他们需要承认技术不是中立的，他们的平台嵌入了某些价值观。如果支持民主言论是其中一种价值观，那么企业就需要为此负责，将自己的行动锚定在这种价值观中，而不是被那些试图从虚假信息的持续传播中获益的人的所谓偏见言论吓倒。
作为研究人员和政策制定者，我们必须超越使用简单的输入模型（例如，由机器人或网络喷子发布的消息）和输出模型（例如点赞、转发甚至投票）来衡量单个虚假信息传播活动的影响。我们需要的是能够涵盖虚假信息如何改变人心、思想、网络和行为的模型。解决这一问题需要平台设计者、决策者、研究人员、技术人员和业务开发人员之间的协作，坦率地说，这种协作水平是难以想象的。而一个自由的社会取决于我们能否找到这样一条道路。
原文以 Kate Starbird: disinformation’s spread: bots, trolls and all of us 为标题发布在 2019年 7月 24日《自然》世界观版块上。
文章来自公众号：Nature自然科研（ID：Nature-Research），原文作者：Kate Starbird。