智力史:为什么人类会恐惧人工智能?
2018-09-07 14:49

智力史:为什么人类会恐惧人工智能?

智力总是被当作统治和侵犯的遮羞布,难怪我们会对超级智能机器感到恐惧。本文转载自微信公众号:神经现实(ID:neureality),作者:STEPHEN CAVE(剑桥大学 the Leverhulme Centre for the Future of Intelligence 的执行主任和高级研究员),翻译:王培,编辑:EON。


20世纪后半叶,我在英格兰长大。那时,智力的概念已经火了起来。人人都在谈论——最重要的事——测试智力。到了11岁的时候,整个国家成千上万的同龄人都会被送到一个仿若桌子形状的大厅,参加“11+”IQ测试。整个测试不到一个小时,测试结果将决定哪些孩子会去读语法学校,以期为之后的大学和职业生涯做准备;哪些孩子命中注定会去读技术学校,然后从事专业技术工作;哪些孩子应该被送去读职业高中,接受基础训练,然后成为一个低端的手工劳动者。


智力能够像血压或鞋码一样被定量测试,这种做法直到我参加测试的时候才只有区区100年的历史,而测试结果会决定我在世界中的位置。然而,智力可以决定一个人在生活中的地位,这种观念却要久远得多。它就像一根红线,贯穿了整个西方思想史,从柏拉图的哲学到英国首相特蕾莎·梅的政策。说一个人聪明或不聪明,决不仅仅是在评判他/她的心智能力,而是在论断他/她有资格做什么事情。换句话说,智力就是政治。


Photo by John Chillingworth


有时候,对智力高低的重视是有道理的:我们都希望医生、工程师和官员不是傻瓜。但过于重视智力的作用却是有负面后果的。一旦通过智力判定一个人能做什么,其他人就会利用这个人的智力水平——或假定这个人智力很低——来对待他/她。贯穿整个西方历史,那些被认为智力较低的人,成了智力论断的牺牲品:被智力更高的人殖民、奴役、绝育和杀害(事实上,如果算上非人类的动物,低智力动物常常成为人类的盘中餐)


事实上,这是一个老故事,一个年代久远的故事。但随着人工智能的崛起,这个问题在21世纪以有趣的面目重新出现。近年来,AI研究获得了显著进展,很多专家相信,这些技术突破很快会给人类带来更多的麻烦。专家们在恐惧和兴奋之间来回摇摆,有些甚至在Twitter上把AI视为是人类的“终结者”。为了理解为什么我们会担心AI的威胁,以及我们真正害怕的是什么,我们必须要把智力理解成是一个政治概念——尤其是,在关于智力的漫长历史中,它一直被当作是(高智者)统治(低智者)的理由。



“智力”这个术语本身从未在英语哲学家中流行过。它在德语和古希腊语言中都没有直接的对应词汇,而这两种语言都是西方哲学传统中的伟大语言。然而,这并不意味着英语哲学家们对智力没有兴趣。实际上,他们非常沉迷于对“智力”的研究,或者更准确地说,是沉迷于“智力”的某一部分:狭义的理性或者合理性。随着当今心理学学科的崛起,“智力”这一术语失去了在流行话语和政治话语中的传统涵义,而被当成一种专门的知识被人们所研究。尽管今天很多学者呼吁人们要更加宽泛地理解智力的概念,但理性仍是智力的核心部分。因此,当我谈论智力在历史上所扮演的角色时,我肯定会涉及到前人是如何看待和使用智力的。


《雅典学院》全图,拉斐尔,1510-1511——意大利梵蒂冈博物馆


智力的故事始于柏拉图。在他的所有著作中,他赋予了思考以极高的价值,他(通过苏格拉底之口)断言,未经审视的生活不值得过。柏拉图从一个深陷神话和神秘主义的世界中跳出来,讲出了一些新的思想:人们可以通过理性或者通过运用今天所谓的智力,获得关于现实世界的真理。这让他在《理想国》中得出结论,最理想的统治者就是“哲学王”,因为只有哲学家才能正确理解事物的真相和秩序。所以,他推论说,最聪明的人应该统治其余的人——这就是一个理性的精英社会。


这个观点在那个时代是革命性的。雅典人已经在运作民主制度了——由人民统治。但是,要成为人民,你必须是一个男性公民,而不必非得是一个聪明的人。而在其他地方,统治阶层由世袭的精英(贵族政体)组成,或者,统治者是那些相信自己获得了神圣天启(神权政体)的人,或者,是那些最信奉强权暴力的人(独裁政体)


在西方哲学的早期,人们将高智力的人等同于受过教育的欧洲男性。这成为男人统治女人、低等阶层、未受开化人群以及非人类动物的理由。


柏拉图的新奇思想被他之后的知识分子所接受,其中就包括了他的学生亚里士多德。亚里士多德一直是一个重视哲学实践和知识分类的思想家。他接受了理性至上的思想,然后把它用于建构一种他所信奉的自然社会等级。在《政治学》这本书中,他解释道:“有些人应该成为统治者,而其他人应该成为被统治者,这一观念不仅很有必要,而且很有实践意义。从人们出生之时起,有些人注定成为顺从者,而有些人注定成为统治者。”统治者的特征是,他们拥有“理性能力”。受过教育的男人最有理性能力,因此,他们应该很自然地成为女人的统治者,成为“那些使用自己的身体做苦工的人”的统治者,成为“天生就是奴隶的人”的统治者。顺着等级的梯子,更低一等的自然是非人类的动物。它们完全没有智力,因而,“被人类统治是再好不过的事情。”


因此,在西方哲学的早期,人们将高智力的人等同于受过教育的欧洲男性。这成为男人统治女人、低等阶层、未受开化人群以及非人类动物的理由。尽管最初是柏拉图提出了理性至上原则,并将它置于一种相当拙劣的乌托邦之中,但仅仅一代人之后,亚里士多德就将劳心者统治劳力者当成了一条不言而喻的自然法则。


可以说,过了两千多年,这些哲学家所设定的思想火车仍然还没有脱离轨道。当代澳大利亚哲学家和保守主义者瓦尔·普鲁姆伍德(Val Plumwood)认为,古希腊哲学巨匠所提出的一系列相关的二元论持续影响着我们的思想。某些二元对立的类别,比如,聪明/愚蠢、理性/感性、心灵/身体,或清晰或隐晦地与其他二元对立的类别,比如,男人/女人、文明/原始、人类/动物,有着密切关联。这些二元论不是价值中立的,而是位于更大范畴的二元论之内,亚里士多德很清楚地表达了这一点:那就是统治/顺从、主人/奴隶的二元论。总之,这些思想构建起了统治关系,比如,父权社会或者奴隶社会,而这种关系成为了自然秩序的一部分。



近现代西方哲学通常被认为是从二元论者勒内·笛卡尔开始的。与亚里士多德不同,笛卡尔甚至不认为非人类的其他动物的智力具有从高到低的连续谱系。他声称,认知能力是人类特有的能力。他的思想反映了超过一千年的基督教神学思想,后者认为智力是灵魂的属性,是至高者的灵光一现,只有那些信奉上帝的人才可能拥有这种能力。笛卡尔推论说,自然世界毫无心智可言,因此,也缺乏内在价值——这种想法将问心无愧地虐待其他动物合理化了。


智力定义了人类,这种思想一直持续到启蒙运动时代。伊曼努尔·康德,这一自古希腊以来最具影响力的道德哲学家热情地拥抱这种思想。对康德而言,只有理性创造物才有道德地位。理性存在被称为“人”,并且以“人自身作为目的”。另一方面,非理性的存在“只有相对的作为工具的价值,因此,被称为事物。”我们可以对事物做我们想做的任何事情。


根据康德的思想,理性存在——今天,我们会说是智能存在——有着无限的价值或尊严,而非理性或非智能存在则没有价值或尊严。他的论证更加精妙,但最终他还是得出了跟亚里士多德一样的结论:现实社会存在着自然的主人和自然的奴隶,而是否具有智力是区分两者的关键。


这种想法后来被扩展开来,成为殖民逻辑的核心。该逻辑论证如下:非白人没有白人聪明,因此,他们没有资格统治自己和自己的土地,因而,摧毁他们的文化,夺下他们的土地是完全正当的,甚至是一种义务,一种“白种男人的负担”。此外,由于智力定义了人类,而殖民地的人智力更低,他们就更少有人类的价值和尊严。因此,他们就不可能完全享有人类的道德地位——所以,杀害他们或者奴役他们完全没有问题。


自从智力测试被发明以来,几十年间,这种测试不但没有颠覆男性对女性的压制,反而夸大了男女之间的智力差异。


同样的逻辑也被用到了女人身上。女人被认为过于轻浮和感性,不具有“理性男性”所享有的特权和能力。正如历史学家乔安娜·伯克(Joanna Bourke)在伦敦大学伯贝克学院所说的那样,19世纪的英国,妇女的法律地位甚至不如被驯养的动物。也许这种情况毫不奇怪,因为自从智力测试被发明以来,几十年间,这种测试不但没有颠覆男性对女性的压制,反而夸大了男女之间的智力差异。


弗朗西斯·高尔顿爵士(Francis Galton)通常被认为是心理测验学——测量心智的“科学”——的开创者。他受到表亲查尔斯·达尔文写的《物种起源》的影响,相信智力是遗传性的,可以通过选择性繁育得到提升。他决心找到一种方法,用以科学地辨别社会中最聪明的一群人,鼓励他们相互交配繁衍。出于种群质量的考虑,智力低下的人不应该被鼓励生育,甚至应该被阻止生育。于是,优生学和智力测试同时诞生了。接下来的几十年,欧洲和美国有相当多的妇女因为智力测试得分不高而被迫绝育——仅在美国加州就有2万个案例。


历史上,有些最残暴的罪恶行径正是打着人种(智力)优劣的旗号进行的。然而,(狭义的)理性统治一直不乏批评者。从大卫·休谟到弗里德里希·尼采,从西格蒙德·弗洛伊德再到后现代主义,很多现代哲学思想挑战了那种传统的思想:我们就像我们所想象的那样聪明,并且,智力是人类的最高美德。


尽管高智力的精英们的确是很有影响力的一个群体,但他们只是社会价值的一部分。进入某所学校或某个专业领域,比如,英国公务员机构(UK Civil Service),需要智力测试,但其他领域则强调人所具有的不同品格,比如,创造力或企业家精神。尽管我们希望我们的官员们都很聪明,但我们没有必要总是选择那些智力测试得分最高、最聪明的政治家(然而,即便像唐纳德·特朗普这样的民粹政治家也仍然觉得有必要宣称,他的内阁成员们的“IQ得分是目前为止历史上最高的”)


很多评论家根本没有发现隐藏在智力概念背后的权力体系,而是把注意力放在攻击政治体制上,这种体制让白种男性精英攀上了政治山峰的最高点。我所参加的“11+”测试就是这样一种有趣但却相当可疑的权力体系,它试图从所有阶层和宗教信徒中把聪明的年轻人发掘出来。然而,在现实生活中,通过智力选拔出来的年轻人大多来自条件优渥的家庭,也即,白人中产阶级。通过选拔,这些家庭的每一个成员的社会地位和优势就再次得到了确认。


在两千多年的历史中,智力的概念经常被用于为某类人群的特权和统治地位作辩护。当我们回顾这一现象时,毫不奇怪,我们会对即将充斥于这个世界的超级聪明的机器人感到恐惧。


在《2001太空漫游》这部电影中,作者设想了机器人反抗人类的场景。现在,我们知道为什么机器人会起义了。如果我们习惯于相信,最聪明的事物应该占据社会的最高位置,当然,我们就应该想到,更聪明的机器人将使人类变得多余,并把人类扫到世界的最底层。如果我们习惯于相信这样的观点:智力更高的人可以正当地殖民并统治智力更低的人。那么,很自然,我们就会担心比我们更聪明的机器人会奴役我们如果我们以智力高低作为权力地位和成功与否的唯一标准,那很容易理解,我们一定会将超级AI视为人类的威胁。


“Open the Pod bay doors, HAL.” 图片来源:《2001太空漫游》


正如生活在纽约的学者和技术专家凯特·克劳福德(Kate Crawford)所说的那样,智力的特权叙事可以解释,为什么西方白种男人普遍对超级AI感到忧心忡忡。其他人群已经被人类自我认定的高智力人群统治了很长时间,至今,他们仍在为反抗现实生活中的压迫者而努力。另一方面,白种男人习惯了高居食物链的顶端,如果新生事物在他们最有优越感的地方超越了他们,他们将是损失最惨重的一群人。


我的意思并不是说,我们所有关于超级AI的担忧都是毫无根据的。在如何使用超级AI方面,确实存在着真实的风险(当然,也存在着巨大的潜在利益)。然而,如果我们担心的是,比如说,机器人会像欧洲殖民者镇压澳洲土著那样镇压人类,那这决不应该成为我们对超级AI最担心的问题。


我们最应该担心的是,人类如何使用AI,而不是AI自己能做什么事。我们人类更有可能利用超级AI来对付人类自己,或者过于依赖超级AI。有一个关于AI学踢足球的笑话是这样说的:如果机器人把我们踢伤了,这很有可能是因为我们教会了机器人踢球的意图,但还没教会他们踢球的方法,而不是因为他们故意想要毁灭我们。人类自己的蠢笨,而非人工智能的蠢笨,仍然是智力世界最大的风险。


如果我们能从不同的角度看待智力,如何看待AI的崛起就是一个很有趣、很值得探讨的问题。柏拉图相信,哲学家应该被人们抬上国王的宝座,因为他们天生就喜欢思考如何统治他人。而其他思想传统,尤其是来自东方的传统,则认为聪明人是视权力为虚浮之物的人,他们试图摆脱日常事务的琐碎和麻烦。


想象一下如下观点已经被广泛接受:如果我们所有人都认为,最聪明的人不是自称有权统治他人的人,而是偏居一隅打坐冥想的人,将自己从世俗欲望中解脱出来;或者,如果最聪明的人是那些重回现实世界,传播和平和启蒙思想的人。我们还会担心机器人比人类更聪明吗?


本文转载自微信神经现实(ID:neureality)——“神经现实”是公益的科学传播组织(官网:https://neu-reality.com),作者:STEPHEN CAVE(剑桥大学 the Leverhulme Centre for the Future of Intelligence 的执行主任和高级研究员),翻译:王培,编辑:EON。原文地址:https://aeon.co/essays/on-the-dark-history-of-intelligence-as-domination

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定