从“提取”到“共治”,重建数据中的信任
2025-12-25 18:12

从“提取”到“共治”,重建数据中的信任

本文来自微信公众号: 斯坦福社会创新评论 ,作者:SSIR中文版


在全国广播公司(NBC)的剧集《善地》(The Good Place)中,整个“来世”体系因一个核心缺陷而陷入混乱:关于人们一生的数据收集和使用方式完全不透明。角色们发现,用来决定他们永恒命运的“积分式数据系统”从根本上就是被操纵的,充斥着隐藏规则和无法企及的标准。人们在全然不知哪些数据被收集,数据如何被用来针对自己,以及该如何改变命运的情况下,持续遭到评判。其结果是广泛的不信任,最终导致这个原本被视为“天堂般”的体系崩塌。


虽然《善地》中这个不可信赖的数据系统是虚构的,但现实中存在着许多真实案例。2005年,脸书(Facebook)向其550万名大学用户承诺,他们的个人信息仅对特定允许的人可见。但仅仅五年后,随着全球用户数增至4亿,其政策发生了转变:第三方应用程序如今可访问用户的基本信息,包括姓名、照片、性别认同、好友关系,以及设为“所有人可见”的内容。这一转变悄然改写并打破了人们与曾信任平台的社会契约。脸书被有策略地包装为“促进人际连接的平台”,但很快暴露其作为剥削、监控与虚假信息传播工具的本质。它成为多起重大丑闻的焦点,例如“剑桥分析(Cambridge Analytica)”事件,揭露了8700万用户的数据在未获同意的情况下被收集,并用于政治操纵;以及在缅甸罗兴亚人大屠杀(Rohingya genocide)事件中,脸书的算法放大了仇恨言论,助长了大规模暴力。


除了企业背叛信任之外,联邦政府也以令人震惊的方式将公民数据武器化。特朗普政府授权美国国税局(Internal Revenue Service)将美国公民的个人税务信息分享给移民与海关执法局(U.S.Immigration and Customs Enforcement),以便推进驱逐行动,把一项基本的公民义务变成了监控和制造家庭分离的工具。


这种信任危机远超对个人隐私或社交媒体互动的担忧,它深入影响着塑造我们日常生活的公共数据体系,包括人口普查数据、教育统计、交通信息、就业记录,以及其他我们所有人都参与其中,却无权决定其生成或使用方式的大规模数据集。许多人从一开始就不信任这些系统,因为他们看到的数据收集过程往往缺乏透明度、背景说明或知情同意。当人们的参与带着谨慎,甚至是被迫时,得到的信息便会片面且失真,削弱决策效力,并常常使最需要关注、支持与投入的群体被排除在外。在数据丑闻中,当公众得以窥见幕后操作时,许多机构未能以真正的透明度作出回应,而仅仅制造出一种透明的表象——发布充斥法律术语的更新使用政策,反而进一步模糊了信息,而非澄清问题。这些行为使强势机构在最低问责要求下运作,通过强制手段迫使人们遵从,使数据的真实用途更加不透明、更令人质疑。


若我们想增强与所服务人群及数据相关方的信任,就必须超越单纯的透明与负责,坚持以人为中心。


我们需要从根本上改变数据收集与使用中的权力格局。在当前现状下,权力强大的主导机构,包括政府、营利性公司和学术机构,正以极其危险且不可信的方式将人们的数据武器化并加以剥削。他们掌握着所有主动权:设计工具、提取信息、控制结果,这一切都是为了满足他们自己的目标,而提供数据的人几乎无权决定数据为何被收集、将如何被分析以及如何被使用。


这种失衡正是“数据公平”试图纠正的问题。公平关乎纠正结构性不公、重新分配权力,并为人们的发展提供所需支持。数据公平将公平原则应用于由强势机构主导的数据系统,要求这些机构把人们的信息视为珍贵之物,而非可随意处置的资源。它意味着确保社区,尤其是长期遭受结构性种族主义和其他压迫体系伤害的群体,能够在数据的收集方式、使用途径以及获得回馈等方面拥有发声权。它意味着尊重社区的生活经验,并确保与数据相关的政策与实践能够直面系统性不平等及其带来的排斥与伤害。数据公平将数据关系从“提取”转向“共治”,在此框架中,互惠与问责是不容妥协的原则。


如果数据公平是强势机构应当努力趋近的地平线,那么“数据正义”就是最终目的地。公平为在根深蒂固的体系中开展更公正的实践提供了路径,但真正的正义要求彻底改变这些体系,而这项工作必须由社区主导。价值观是实现这两个目标的指南针。每一次数据收集行为,都体现着我们愿意向数据中所反映的生命给予多少尊重、诚实与互惠。缺乏共同价值观,即使出于善意的努力,也会重复伤害,进一步瓦解人们对机构的信任。


这一转变最核心的价值观是获得同意(censent)。数据公平始于选择,即个体拥有自主权,可决定是否参与、如何参与,可决定要被提问的问题,以及研究结果将如何被分享。太多时候,社区收到的是预先设定的同意书,将参与简化为“是/否”勾选。共同赋能的同意获得模式超越传统的知情同意,创造了一种文化和流程,使人们能够界定“同意”对自己的意义,以及希望如何参与(如果愿意参与的话)。它使同意成为一个持续的、协作性的过程,而非一次性交易。


数据公平的另一项关键价值观是透明(transparency)。人们理应知道为何需要他们的信息、这些信息将如何被使用,以及参与数据相关工作后能获得什么。透明度不应是隐藏在细则中的字眼,而应是坦率说明信息收集与使用方式的实践。


与透明度相伴相生的是问责(accountability)。关于数据使用的承诺,只有在兑现时才有意义。问责意味着要建立落实机制:认可人们的贡献,回访并反馈结果,确保所有承诺都能真正落地。


接下来是互惠(reciprocity)。数据并非免费之物。它们包含社区成员以自身时间、劳动和知识为代价所提供的内容。尊重这些贡献,意味着必须确保人们能从分享信息中看到实实在在的益处,无论是认可、资源,还是他们的信息帮助塑造了某个项目或政策的证据。


最后,是将所有这些价值观串联起来的核心纽带——可信任性(trustworthiness)。可信任性绝非纸面上的“声称”,它是一种通过长期持续且一致的行动来展现和维持的实践。它意味着持续向社区证明:你会履行承诺,意图与行为保持一致,人们可以信赖你能说到做到。


缺失这些价值,数据就会变得脆弱易损,失去可信度与信任。但当这些价值观引导数据流程时,信息会变得富有意义,关系会得到强化,决策也会扎根于共同目标之上。



价值观决定方向,但问责协议是将这些价值付诸实践的途径。


每当点击“同意”服务条款、签署知情同意书或订立合同时,我们都在认可一套规范参与方式的规则。问题在于,这些协议通常服务于机构而非个人。它们强制要求遵守,却没有提供真正的选择权。


但协议并非必须如此运作。在最佳状态下,它们可以通过实现双向问责来重新平衡权力,确保人们能够对是否参与、如何参与拥有发言权,并能够确信自己的偏好会受到尊重。这正是公平数据问责协议的承诺:它们把原本不平等、单向度的交易,转化为以公平为导向的承诺框架,在这个框架中,各方都拥有相应的权利与义务。


数据问责协议不再将数据收集视为一种“对(to)”社区的单方面行为,而是创造了“与(with)”社区开展真诚对话的空间。它们能够确保机构在收集、共享和使用人们信息的过程中,采取经过深思熟虑的行动。更关键的是,它们从一开始就明确设定预期:信息将如何处理、何时收到反馈、能获得什么回馈,从而消除因不确定性和承诺落空而导致的信任侵蚀。


以下五个问题,可以作为与任何被要求提供信息的群体共同制定数据问责协议的出发点:


1.我们为什么索要这些信息?


信任始于对意图的诚实说明。仅仅用专业术语重述研究目标或引用评估目的是不够的,关键在于用通俗易懂的语言解释:为何要让人们分享其宝贵的信息,以及他们的回答将如何被用于塑造可能影响其生活的事物。


以一位为非营利组织评估社区营养项目的工作人员为例。一个以问责为核心、能够清晰传达意图的有力解释可以是:“我们询问您获取健康食物的情况,是因为县政府正在决定是否继续资助社区中心的免费果蔬项目。您的反馈,关于什么有效、什么存在问题以及还需要哪些改进,能够帮助我们争取优化并扩大这一资源。”两者的差别极为显著:前者将社区成员视为原始数据的来源,后者则承认他们是合作伙伴,其经验对于影响此潜在重要的社区资源的未来至关重要。


2.谁会看到这些信息?


人们理应知道谁将接触到他们分享的信息、以何种形式接触,以及出于什么目的。这意味着要具体说明工作人员的角色、合作组织、资助方以及可能的二次用途。如果仅告知人们信息会被“保密”,却没有提供具体细节,他们就会设想最糟的情况,而这些担忧往往源于数据被滥用或被武器化的真实案例。


例如,某县卫生部门在收集居民对公共服务的使用体验时,可以给出详细透明的说明:“您关于县卫生诊所使用情况的反馈,将由我们的服务改进团队、部门主管以及县卫生委员会查看。您的回答将保持匿名,这意味着我们无法将您的身份与回答对应起来。我们会在提交给县委员会的年度报告中分享匿名化的主题性结论,但不会包含个人回答或任何可识别身份的信息。未经合法有效的法院命令,我们不会将这些信息分享给执法机构、移民机关或县卫生服务系统以外的任何实体;即便出现此类情况,我们也会提前通知您。”


通过明确界定边界与许可范围,这种方式能让人们做出知情选择,增强他们对数据查看者和使用者的信心,并让人们清楚了解机构将如何保护其信息。


3.我们将如何就这些信息的使用达成共识?


与提供信息的人建立共识至关重要,因为我们所需的数据离不开他们的贡献。这意味着要为讨论和协商创造空间,共同决定信息的分析与使用方式。这将数据使用从一种“要么接受、要么放弃”的安排,转变为共同创造的协议。


一位负责评估资助效果的基金会项目官员可能会说:“在我们分析这些信息之前,希望听取您的意见。您希望我们查看数据时重点关注哪些方面?是否希望我们以特定方式呈现您的经验?您认为哪些结论可能具有危害性,或者哪些建议对您的社区最有帮助?在发布任何报告或展示研究结果之前,我们也会与您确认,确保您对自己贡献的呈现方式感到满意。如果您在任何时候希望撤回信息或改变其使用方式,可与我们联系,我们会尊重您的要求。”


这样的表述承认了社区成员对自身现实拥有独特的洞察,而这些洞察很容易被外部人员忽视。当社区观点主导分析过程时,研究结果会更加准确、更具相关性,且更不易造成伤害。


4.我们将如何把这些信息反馈给您?


许多时候,社区成员付出了时间和见解,却再也没有得到任何反馈——他们的成果消失在机构报告、简报和展示的黑洞中。数据公平要求互惠:当人们分享信息时,必须获得有意义的回馈。这是一种尊重的体现,能闭合数据提供者与使用者之间的循环。


例如,一位研究消费者体验的市场工作人员可能会明确承诺将调查信息反馈给消费者:“非常感谢您与我们分享您的观点。在完成调查分析后的90天内,我们将生成一份报告,向您分享我们的收获。我们希望与您分享这份报告,让您了解所有信息的总结方式以及据此提出的建议。请告诉我们您最便捷的接收方式,无论是电子邮件、可下载副本还是其他形式。如果我们基于您的意见提出的建议,以促进本地商业实践发生改变,我们也会跟进了解这些改变是否真的起到了帮助作用。”


原则很简单:人们应从自己帮助创造的信息中受益。当数据以易于获取的方式被反馈时,它就会成为促进参与和合作的工具,而非掠夺的手段。


5.我们将如何给予署名和致谢?


致谢与问责、透明和互惠的价值观紧密相关。对数据贡献者表达感谢非常重要,但致谢方式应取决于他们的偏好。有的贡献者可能希望公开署名,而另一些则可能出于安全或隐私的考虑希望保持匿名。公平意味着尊重这两种选择。不可协商的是,人们作为知识的共同创造者所付出的智力贡献必须得到重视。


一位医疗科技公司的用户体验研究人员可能会解释:“我们认可您的反馈代表着宝贵的知识与劳动。在内部报告和向管理团队的展示中,我们会说明设计的改进直接来源于患者的洞察。如果您的具体想法影响了我们的产品,我们将在版本更新说明中标注‘患者贡献者’。未经您的许可,我们不会将您的贡献用于宣传材料,且在使用时会确保您获得应有的认可。”


致谢能够建立数据提供者与使用者之间的信任与连接,增强所得信息的可信度,并确保源自真实生活经验的专业知识与正式资质获得同等重视。


我们对可靠数据的需求日益增长,但人们对机构和数据的信任却在下降。而这种不信任是理所当然的,它源于数十年来的经历——人们的数据被用来伤害他们,被用来拒绝提供服务,被用来监控和管控,被用来通过遣返拆散家庭,被用来将生存策略定为犯罪,被用来为压迫性制度辩护。在当下,这些威胁并非遥远的记忆,而是正在加剧的现实。


希望建立信任的组织必须从现在开始,将问责作为与数据相关工作的核心:


●对于研究人员和评估人员:从即将开展的项目入手,试点数据问责协议。尽早让社区伙伴参与设计过程,而非在方案确定后才纳入,共同讨论收集到的信息将如何被解读、分享和使用。


●对于资助者和基金会:将数据问责协议纳入自身的资助流程。提供资源,支持实现公平数据实践所需的时间、基础设施和合作关系。在与研究、评估和学习相关的数据实践中,示范数据问责协议的应用。


●对于政府机构:将数据问责协议应用于公民数据的收集和使用,尤其是调查数据和政务管理数据。建立明确的透明、反馈和共同决策流程,构建公众对政府数据系统的信任。


●对于私营企业:利用数据问责协议,明确关于同意、使用和信息反馈的预期,以此积极彰显企业特色,并向客户和消费者表明其对可信任性的承诺。


●对于每个人:通过上文提到的五个问责问题,审视所在组织的数据收集实践。哪些方面已经做得很好?哪些方面可以改进?在下一个项目中试点数据问责协议会是什么样的?


获得同意、透明、问责、互惠和可信任这些价值观并非理想化的追求,而是合法数据实践的基石,可通过数据问责协议加以落实。这些协议不是奢侈品,而是确保获取有效行动所需信息的必要条件。采纳这些协议的组织,将能够有效收集有意义的信息,与所服务的群体维持真正的合作关系,并推动持久的转型。


贾米拉·M·波特是德博蒙特基金会(de Beaumont Foundation)的负责人,同时也是“现代化反种族主义数据生态系统促进健康公平”(Modernized Anti-racist Data Ecosystems for Health Justice)项目的首席研究员。作为一位获奖的研究人员、评估专家和公共卫生领导者,她致力于通过推进公平、正义和社区力量,转变塑造健康且相互关联的系统与结构。


扎米尔·布拉德福德是德博蒙特基金会的项目官员,同时担任“现代化反种族主义数据生态系统促进健康公平”的项目经理。作为战略制定者和系统思考者,他致力于通过开发、部署和利用推进公平与正义的创新策略与框架,转变塑造健康与福祉的系统和结构。


林恩·勒是德博蒙特基金会的项目官员。她的工作重点是建立伙伴关系、增强公共卫生能力,并推动以公平为导向、以社区需求为核心的方法。


凯·沙弗是德博蒙特基金会的研究与评估官员。作为公共卫生研究员和评估专家,她负责领导衡量影响力、强化数据驱动决策,并在基金会各项举措中推进以公平为核心的持续学习。

AI创投日报频道: 前沿科技
本内容来源于网络 原文链接,观点仅代表作者本人,不代表虎嗅立场。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。
正在改变与想要改变世界的人,都在 虎嗅APP