“技术中立”消亡史
2020-07-04 07:26

“技术中立”消亡史

本文来自微信公众号:放大灯(ID:guokr233),作者:刘博涵,策划:放大灯团队,题图:视觉中国。


2020年6月29日,印度电子信息技术部宣布,TikTok、Wechat、QQ、微博等59个中国厂商应用“从事的活动有损印度主权和完整、国防、国家安全和公共秩序”,将禁止其在印度市场的使用。


“印度封杀应用之举有违世贸规则”“印度企业和消费者将为此买单”“禁用中国应用程序只会苦了印度人民”……我们或许有种种理由证明中国企业的无辜;然而,少有人提及的是,全球互联网分裂的背后,是民族情绪高涨的印度人又一次践踏了“技术中立”的尸身。


TD-SCDMA事件、“快播案”、贺建奎事件……伴随着中文互联网的成长,技术中立论在中国从勃兴到夭亡,只用了短短十几年;而在欧美,“BLM”运动也将反对“技术中立”的时代巨浪引向了社交媒体平台甚至AI领域。


这一切是如何发生的?“技术中立”观念的消亡对人类科技的未来又究竟意味着什么?




“不向用户收费,你如何保持业务长期进行下去?”


“参议员……”正襟危坐的马克·扎克伯格停顿了半秒,保持微笑,“我们靠经营广告赚钱。”


世事难料。时至今日,当人们想起2018年4月10日那场时长6小时的史诗级国会听证,玩笑似乎都成了谶语——两年前的扎克伯格在美国国会面前极力捍卫的“技术中立”论调,竟有被Facebook赖以生存的广告主亲手葬送之势。


技术中立(Technology Neutrality),或译为“技术中性”,本文统一用“技术中立”描述。


2020年6月中旬,“BLM”的呼声席卷全球之际,六家美国民权组织联合发起#StopHateForProfit(“因恨牟利”)运动,剑指社交媒体上滋长的仇恨言论。


Facebook首当其冲。截至6月30日,联合利华、可口可乐、阿迪达斯、福特、微软等大型企业皆陆续承诺中止7月在Facebook等平台上的广告投放计划。


这一回,扎克伯格没能保持自信的微笑——6月26日,他紧急承诺改变政策、禁止在Facebook的广告中出现任何仇恨言论。然而,曾几何时,他在44名国会议员面前可是这么回应的:


“……内容审查并非我们主要工作,政府应当在言论自由中发挥更大作用。就像任何工具一样,我们对技术持中立态度,它既有好的一面,也有不好的一面。”[1]


正在“技术中立”问题上遭受拷问的远不止扎克伯格。


在AI界,“洗白”了奥巴马的PULSE算法点燃的“算法歧视”(algorithm discrimination)之争,刚刚以杨立昆(Yann LeCun)宣布退出Twitter告一段落。


黯然退出的杨立昆是Facebook的首席AI科学家、2018年图灵奖得主、“深度学习三巨头”之一,人称“卷积神经网络之父”。此前,他将机器学习结果的偏见归于数据集偏见而非算法偏见的“技术中立”发言,毫无悬念地把自己死死绑在了政治正确的靶心上。


杨立昆(Yann LeCun)宣布告别Twitter平台丨Twitter



“洗白”奥巴马的AI修复图像算法丨Twitter


与此相关,“BLM”运动还引爆了对预测性警务和面部识别技术的广泛质疑。批评者指出,所谓“技术中立”的算法涉嫌过度警戒少数族裔社区、强化了种族主义的警务模式。


从Facebook到面部识别,一度甚嚣尘上的“技术中立”观念正在消亡。


曾几何时,日常生活中的技术中立论者最喜欢的一则论证是:某人持菜刀砍了人,难道是菜刀厂商甚至“菜刀本刀”的错?在美国,同样的思路造就了全国步枪协会(NRA)反对控枪法案的著名口号——“枪不杀人,人杀人”。


然而,时移世易,在平台内容审查和AI算法歧视的问题上,“菜刀”和“枪”们的说服力似乎大大减退了:在2020年的人类看来,Facebook这把“技术菜刀”可能主动诱惑着持刀者;AI算法这枚“技术子弹”也陷入了“没有一行代码是无辜的”的指控。


仿佛一觉醒来,世界即倒戈到了“技术中立”的反面。亲眼见证着一种技术观的迅速瓦解,我们或许不免错愕:不信任的种子究竟是何时埋下的?



现代技术中立论的里程碑事件是一场版权法官司——1984的“环球影业诉索尼案”(Sony Corp. of America v. Universal City Studios, Inc.)


1975年,索尼发明了“一款能够接入任何电视机,从而能够让你看到任何可能错过的电视节目的革命性新产品”——Betamax电视录像机。


在前互联网时代,Betamax的功能可谓强大:它的暂停键和快进键允许用户随时录制或播放不含任何广告的电视节目,完美迎合了上班族的追剧需求。


然而,正是这些“灰色”的潜在应用场景给索尼惹了祸。


Betamax上市翌年,深受其害的环球影业就以侵犯版权为案由,一纸诉状将索尼及相关责任方告到了加州中区联邦地区法院。


加州中区法院判决认为,家用Betamax不构成版权侵权,发明这项“中性”技术的索尼亦不必为个体消费者的行为负责;“不服”的环球影业上诉至美国联邦第九巡回上诉法院,而巡回上诉法院给出了与加州中区法院截然相反的判决——支持原告。


“索尼案”前后历时八年,最终被上诉至美国联邦最高法院、以5:4的投票结果达成判决。从本案的多数派意见中诞生了著名的“实质性非侵权用途”(Substantial Non-Infringing Use)标准,确立了版权法领域的“技术中立原则”。


自此,“索尼案”就成了“技术中立”观念的胜利宣言。


像多数派大法官们指出的那样,对任何一项技术的价值,我们似乎都可以在“工具性”和“目的性”两个维度上理解:Betamax的功能多种多样,索尼的意图原本不过是发明一种中性的工具;而技术如何被使用,最终在于人的目的。


换句话说,作为价值的善或恶,像被中性论者从技术身上剥了下来,“赤裸”的技术本身仍然可以是纯粹的、无偏见的。


在后“索尼案”时代,此种论调几乎成了共识——即使到了2001年,Napster案(A&M Records, Inc. v. Napster, Inc.)的判决强调了P2P时代“服务”与“产品”的界限,也不过是在新的历史语境下,又剥掉了一层不属于技术本身的“外衣”,而作为基本共识和根本原则的“技术中立”从未被真正撼动——直至近年。


或许是因为相关法律问题大多在美国宪法第一修正案的框架下即可解决,“技术中立”问题在美国法学界迟迟不曾成为一门“显学”;然而,从二战告终时起,针对“技术中立”的哲学反思即成燎原之势。应时而生的技术价值论者将德国哲学家雅斯贝尔斯(Karl Theodor Jaspers)视作假想敌——在1958年的《原子弹与人类的未来》中,正是他提出了技术中立论的经典表述:


“技术本身既非善,亦非恶,但它既可以用于善,也可以用于恶。它本身不包含任何观念:既不包含完美的观念,也不包含毁灭的邪恶观念;它们都有别的源头——在人类自身之中。”[2]


在战后反思推动的技术批判思潮下,技术价值论者逐渐在西方知识界取得了压倒性的胜利;然而,在中国,“技术中立”之争迟迟没有走上这条线性的终结之路。法理问题与种种社会议题交织在一起,更完整地暴露了人类在不断革命的技术面前日渐复杂的心态。




与欧美不同,现代技术中立论在中国奠基于庙堂。


19世纪下半叶,当保守主义者幻梦里鉴临四夷的中国“道统”终于被现代国际秩序冲撞得支离破碎,明智的知识分子开始将希望转寄于师法“西艺”以对抗西方,他们敏锐地发现,西方“格致之学”不同于中国的观念内核,其实是启蒙运动带来的科学技术主义。


1889年,李鸿章主持上海格致书院春季特考,题目要求考生简述自古希腊至近代的西方科技之发展。考生王佐才“结合时事”,分析了他眼里的中西差异之根本:


“此其故由于中国每尊古而薄今,视古人为万不可及,往往墨守成法,而不知变通;西人喜新而厌故,视学问为后来居上,往往求胜于前人,而务求实际。”[3]


西方重视技术、信仰进步的理念给改革派留下了极深的印象,在他们看来,“格致之学”不但是西方富强的法门,而且是中性的、普遍的、可能为任何人——自然也包括中国——所用的。


更有甚者,当郑观应发出“顾格致为何?穷天地之化机,阐万物之元理,以人事补天工,役天工于人事”[4]的感慨,他其实早就陷入了技术决定论编织的乐观情绪,仿佛只要让“器艺”为我所用,中国就能超英赶美、迅速自强。


近代中国知识分子们认为,在伦理道德上,“技术中立”的逻辑照样管用:坚船利炮固然是帝国主义的侵略手段,但是,仰赖同样的技术,也可能构筑起全新的华夏文明理想和和平主义的天下秩序。


以技术乐观主义为根基的“技术中立”观念,并没有随着清帝国的崩溃立即瓦解——相反,它以变幻的面目隐现在后来的种种时代口号下,从五四新文化运动拥戴的“赛先生”到后来的“科学技术是第一生产力”莫不如此。


甚至可以说,“技术中立”在中国的底色,恰恰是那种“掌握核心科技”就简直等于买通了国际竞争的裁判的乐观心态:如果技术可能垂怜中国这朵“后浪”,它就必须是不偏不倚、对每一滴水一视同仁的。


然而,也恰恰是这种越来越理所当然的乐观假设,注定了“技术中立”观念的薄命。




本世纪初,信息全球化时代的降临在中国投下了笼罩技术中立论的第一道阴影。


2000年5月,国际电信联盟(ITU)接受具有中国自主知识产权的3G通信技术标准TD-SCDMA为第三代移动通信技术的备选标准。一时间,中国3G市场出现了中国标准(TD-SCDMA)、美国标准(CDMA2000)与欧洲标准(WCDMA)三足鼎立的竞争格局;而TD-SCDMA标准因为收获了中国政府的政策倾斜,引发了欧美抗议。


在2004年6月的中美商贸联委会(JCTT)上,美方要求中国政府坚持“技术中立”态度,取消相关政府指令、保证运营商自主选择3G技术标准。


谈判最后以中方承诺“政府将坚持技术中立态度,电信运营商在标准选择上将具备完全自主权,可以根据自身实际需要做出决策,中国相关监管部门将不参与任何知识产权商业谈判过程”告终;然而,后来的事实证明,技术中立论者没有就此赢得又一场胜利。


以TD-SCDMA事件为契机,中文互联网展开了第一场围绕“技术中立”问题的大讨论。


2005年1月19日,《21世纪经济报道》出版发布了清华大学教授、时任国情研究中心主任胡鞍钢牵头编写的“中国3G世纪报告”[5],激起了北京邮电大学教授阚凯力的强烈质疑,旷日持久的“胡阚之争”奏响了序曲。


2月2日,胡鞍钢提出六点反驳,其中第三条观点即题为“技术中立论”。胡鞍钢称:


“所以我主张,政府在使用什么样的3G技术方面持技术中性态度。不在乎是谁发明了这个技术,而在于你能不能获得(包括购买)这个技术,通过这个技术扩大你的市场份额。”[6]


然而,此语引发了爱国网友的剧烈反对。批评指出,在国际标准竞争弱肉强食的残酷现实下,主张技术中立论无疑是虚伪的:


“在涉及重大产业利益的技术标准的国际竞争中,在本国标准与其他国家标准的竞争时,没有一个国家的政府会如此天真地认真地采取‘技术中立’政策。美国政府在这种情况下提出要我国政府采取‘技术中立’政策,只不过是为了给本国的CDMA2000标准‘鸣锣开道’罢了。”[7]


还有评论认为,早在2004年4月的贸易谈判中,中美围绕中国提出无线接入WAPI标准的争论就已彰明了美国政府和部分跨国公司假借技术中立论之名、行干扰中国制定自主标准之实的险恶用心。


无论怎样,TD-SCDMA事件给“技术中立”的观念神话添上了第一道不可修复的裂痕。


20世纪末中美关系恶化后,中国人民日用而不知的国际关系现实主义理念再一次提醒了人们,技术从来不是绝对“中性”的:在国际政治经济角力的“黑暗森林”中,“Tech is Power”——技术即权力。


无论TD-SCDMA还是CDMA2000都绝非纯粹“中性”的;像任何一项技术一样,它们被认为是“价值负荷”(value-laden)的,承载了开发者赋予它们的、带有明确价值取向的个别意义——中国的突围,或是美国的野心。


此后,技术中立论的领地遭遇了历史性的萎缩。“菜刀论证”似乎成了技术中立论者最后的堡垒:我们能但只能声称,剥去了身上负荷的价值,3G技术标准本身还是“中性”的——然而,即使这样的说辞也并非坚不可摧。




“我们认为技术并不可耻。”


2016年1月7日,北京海淀法院开庭公开审理被告单位快播公司,被告人王欣、吴铭、张克东、牛文举涉嫌传播淫秽物品牟利罪一案。在看热闹不嫌事儿大的直播弹幕围观下僵持了两天的庭审,迅速掀起了段子手创作的热潮,被告及其辩护人“平台无罪,研究开发平台的技术无罪”的论调,也不出意外地成了全网最大的争议点。


值得注意的是,庭审现场的质证过程中浮现出了“索尼案”与Napster案的影子——


王欣辩护人:“快播公司是否属于互联网信息服务企业?”

王欣:“快播是软件技术提供商。”

王欣辩护人:“你是否提供内容给广大网民?”

王欣:“不提供。”[8]


辩护人的弦外之音显而易见:如果快播提供的只是技术而非服务,本案就更像是一宗中国的“索尼案”而非Napster案。正因如此,在庭审现场,被告方纷纷祭起了“技术无罪”的大旗。


唯一的问题是,时代变了。


事隔十年,中国网民人数从2005年底的1.2亿飙升至2015年底的6.7亿,翻了四倍有余;中文互联网的话语权结构应声而变,TD-SCDMA事件中交锋对垒的专家学者再不是风暴的中心。


往昔风头大盛的胡鞍钢们,在社交媒体时代的“快播案”中沦落到了只有画外音的份儿。围绕“技术中立”的拉锯战,也从佶屈聱牙的政法论辩转向了贴近日常生活的道德伦理之争。


主流的声音率先起了变化。庭审结束三天后,一篇“人民时评”登上了《人民日报》第5版:《用法治方式读懂“快播案”》,署名“白龙”。“白龙”批评了快播案引发的网络“狂欢”,并发问:“如何让网络技术既便利生活又无损于社会善良风俗、更不能冲撞法律的底线?”[9]


言下之意,技术不但必然负荷价值,而且还有伦理上“应当”负荷的“良善”价值:维持法律与习俗的稳定,远离破坏和颠覆。一旦违逆了这条原则,任何技术都将被打上可耻的烙印。


王欣的最终入狱,宣告了技术中立论在互联网时代的退潮。8个月后,北京海淀法院一锤定音:被告人王欣犯传播淫秽物品牟利罪,判处有期徒刑三年六个月,罚金人民币一百万元。


同年年底,当今日头条创始人张一鸣在《财经》的采访中高调宣布“今日头条拒绝‘价值观先行’”,他的致敬没能收获又一场狂欢;相反,这一回,舆论做了行政司法的马前卒。历数着“中立算法”原罪的两年,人们先后盼来了今日头条两次被约谈和张一鸣的低头:


“产品走错了路,出现了与社会主义核心价值观不符的内容,没有贯彻好舆论导向,接受处罚,所有责任在我。”[10]


张一鸣表态认错的2018年,清算声讨“技术中立”的火势也从互联网延烧到了实验室。


12月26日,在第二届国际人类基因组编辑峰会临召开前,南方科技大学副教授贺建奎宣布了一对艾滋病毒免疫的基因编辑婴儿的诞生,霎时质疑四起。


这可能是科技伦理距离普通人的日常生活最近的一次。人们开始谈论伦理审查、生命的界定,还有胚胎研究的14天规则。


可以说,“贺建奎事件”也是“技术中立”第一次以“元问题”而非“附加的讨论”的面目出现在公众视野里——这并非偶然。在众多现代科学中,医学在价值问题上恰恰是特殊的:从柏拉图的对话录开始,健康就被认作天然正当的“善”。


换句话说,医学技术“应当”负荷的价值正是“除人类之病痛”。


然而,生命伦理的特殊性又往往暴露出一般的技术效用主义的矛盾:就算杀害一人可能拯救万千性命,我们似乎也不愿承认这样的做法完全符合普遍的道德直觉。




从快播到今日头条,再到“贺建奎事件”,技术中立论话语的脱力其实都发生在“实然”与“应然”的反复碰撞中:当我们说“技术中立”的时候,我们是真的希望技术保持中性,还是期待“中性”背后非中性的可能性?


或许,它为我们提供的仍是那种古老的乐观主义想象:只要善加诱导,技术开出的“恶之花”就能被重新驯化、服务于人类的“良善”需要——这是百年前那句“以人事补天工,役天工于人事”的现代回响。


既然如此,“技术中立”是如何突然消亡的?


担当这个过程的催化剂的,或许是技术向日常生活深处行军的步伐:在普通人眼里,技术越来越不再是某一件单纯的“物”,而是某一项复杂的具体“过程”。


技术中立论者长期据守的“菜刀论证”给了现代人一个高度迷惑性的例子——作为“技术物”的菜刀和作为“技术过程”的3G、AI、基因编辑,其实代表了人类理解技术的两个不同阶段。


经典的“技术物”更像是一个“黑箱”,它的生产与使用分离得相当彻底——持刀切菜或砍人,似乎不过是在特定应用场景下赋予“技术物”不同使用价值的过程。


然而,在日渐复杂化的进程中,现代技术遭遇了质的变化:发明何种技术与技术将负荷何种价值,二者的界限愈发地模糊了。如果硬要沿用那个经典的例子,我们可以说,菜刀的蓝图上早已标好了它的用途,一切设计随之而定:做不做锯齿?开不开血槽?……


现代人越来越感到,必须以“过程”而非“物”的标准看待每一项技术。


我们关心AI的应用场景,更关心它在算法上是如何实现的;我们关心基因编辑带来的利好,更关心它在生化机制上有没有潜在的风险。我们鼓足勇气打开了“黑箱”,也暴露了长期为“技术中立”的神话所掩蔽的暗面。




2020年——“后新冠时代”元年,同样的剧本正在世界各地火爆巡演。


“BLM”运动的浪潮推动着扎克伯格和杨立昆重蹈今日头条的覆辙;病毒的肆虐消磨着人类所剩无多的乐观主义情绪。“一切坚固的东西都烟消云散了”——我们比以往任何时候都更清醒地意识到,技术既不是进步的“必然魔法”,也不应当成为新的神话。


像种种一度被认为是亘古不变的确定性信念一样,技术中立论其兴也勃,其亡也忽。人类的技术观向何处去?如果说纯粹的“技术中立”不过是技术乐观主义的一场幻梦,它的消亡会不会陷我们于极度悲观的相对主义甚至虚无主义?


既然一切技术过程都承载着人的好恶甚至各种结构性的不平等,这是不是在可能性上宣告了任何一种无偏向性的普遍技术的破产?我们注定只能在“白人的AI”或“黑人的AI”、“男性的技术”或“女性的技术”之间择一而终吗?


无论出路为何,至少有一件事可以确定:技术中立论者必须在承认技术过程的基础之上,作出回应时代的努力——毕竟,那个以“技术中立”为第一原则的时代,已是一去不回头了。


References:


[1] 北京大学知识产权学院:扎克伯格参议院听证会记录

http://www.iplaw.pku.edu.cn/xzdt/1208087.htm


[2] Karl Jaspers, The Atom Bomb and the Future of Man. Chicago: University of Chicago Press, 1963.


[3] 王韬 编,弢园 重校:《格致课艺汇编》卷四,上海书局石印本,1897年,第5页。


[4] 郑观应:《盛世危言·教养》,《郑观应集》上册,上海:上海人民出版社,1982年,第481页。


[5] 胡鞍钢:“中国3G世纪报告”(部分) https://tech.sina.com.cn/t/2005-01-19/0911508250.shtml


[6] 胡鞍钢反驳3G讨论观点三:技术中性论 https://tech.sina.com.cn/t/2005-02-02/0728521152.shtml


[7] 朱彤:3G:技术真的是中立的吗?http://net.blogchina.com/blog/article/183468


[8] 腾讯科技:快播涉黄案庭审实录 

https://tech.qq.com/a/20160108/062986.htm


[9] 白龙:人民日报人民时评:用法治方式读懂“快播案” http://opinion.people.com.cn/big5/n1/2016/0111/c1003-28034817.html


[10] 新浪财经:张一鸣凌晨发公开信道歉 宣布审核队伍扩到万人 

https://finance.sina.com.cn/7x24/2018-04-11/doc-ifyteqtq7784392.shtml


本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定
赞赏文章的用户1人赞赏

相关推荐