机器与皮肉之下
2019-07-04 13:29

机器与皮肉之下

本文来自微信公众号:清华大学清新时报(ID:qingxintimes),作者:郭文青,标题图来自视觉中国 


机器人:所有会让人感到威胁的人类造物,最好以金属为原料。


1765 年,瓦特创造了世界上第一架蒸汽机;1807年,富尔顿发明了轮船。此后,机器的轰鸣声在田野上响起,人类的脚印开始遍布这个世界。富于幻想的人们看到了机器光明的坦途,也思考着机器与人的界线。人理性而富有情感,机器冰冷而机械。那么机器人呢?


“现代普罗米修斯”


在科技发展的最初,上帝被否定,信仰被踩碎又重塑,冒险者为之振奋,保守者却为之惊恐。玛丽·雪莱在1818年的小说《弗兰肯斯坦》中塑造了一个“怪人”——它由主角弗兰肯斯坦用尸体拼装而成,是灾难的罪魁祸首。“怪人”虽不归属“机器人”行列,却集中体现了人类对新技术最初的恐惧与猜疑。


对机器人,人类又何尝不是如此?


电影《弗兰肯斯坦》中的怪人形象


“假如他们有了根深蒂固的观念,认为自己是奴隶,认为应该起而反抗……”


《莎莉》中的看车人,本与自己庄园里有知觉与感情的自动车相互信赖。可“匹夫无罪,怀璧其罪”——这种信赖,也在见识到了自动车为了维护庄园的反击后逐渐消散。非我族类,其心必异,猜疑在令人望而生畏的强大力量面前孳生,不安在发酵,恐惧被点燃……


 然而——“我们到底恐惧机器人什么?依我看,我们不过是自卑感作祟罢了。”


人们一直在纷纷议论,唯恐新技术的出现是人类毁灭的开始。科幻小说两百年的历史中,探讨机器人存在的伦理正当性和安全性的作品数见不鲜,我们害怕被取代,害怕遭到反抗。


如今,机器人开始真正进入普罗大众视野中,我们似乎也能看到,公众对机器人伦理的争论正在不疾不徐地走过科幻文学中曾写过的路。


“服从是我的荣幸”


“人和动物最大区别是制造和使用工具。”因此,动物成为工具,机器成为工具;人,也曾经成为另一部分人的工具——他们被物化,被称为奴隶,被定义为仆人。


机器本是物。而最初的机器人,只是一些机器。正如《齐玛蓝》中所说:“我就是当年那个智力只够让自己绕着游泳池转的粗糙的小机器人。”他们并没有多强大的智能,有的甚至没有心智——他们只是被制造出来用于服务人类的死物。不论是人形的、非人形的或是会动的、不会动的,指令与规则被镶嵌在他们的主板中,被捆绑在他们的灵魂里——如果他们有灵魂的话。


“一、机器人不得伤人,或任人受伤而袖手旁观;


二、除非违背第一定律,机器人必须服从人的命令;


三、除非违背第一及第二定律,机器人必须保护自己。”


阿西莫夫在《我,机器人》中提出的机器人三大法则在很大程度上消除了人类的猜疑,却也确确实实地成为欺凌机器人的利器和奴役机器人的锁链。自此,人类能从一部分工作中解放出来,与机器人和平共处,享受他们带来的保护和陪伴。


直到有人问出:为何他们生来便遭受奴役?


“假装活着的死物”


《仿生人会梦见电子羊吗?》中的仿生人,无疑是机器人的另一版本。他们也有血有肉,不经过骨髓检测无法准确将他们从人群中区分。但是,他们只是被造出来做人类的奴仆的;他们当中不愿屈从命运的部分逃到地球寻找自由,却也面临被赏金猎人猎杀的危险。


这是没有三大法则的世界。但在拥有三大法则的世界里,必须恪守法则的机器人对法则本身也有着无穷的困惑。


“伤害”一词,究竟该如何定义?人类之间发生冲突时要怎样抉择?一个人的牺牲能保卫全人类时又该如何?《银河帝国》中的机·丹尼尔·奥利瓦,始终谨记要帮助人类缩短第一帝国毁灭后将会降临的三万年蛮荒的使命,却发现自己遭到三大法则的束缚。而机·吉斯卡作为唯一一个拥有心灵透视能力的机器人,也思考着人类心灵的玄妙。


《银河帝国》作者阿西莫夫


吉斯卡认为,机器人对人类的保护不应仅限于身体,也要注重心灵。但《骗子》一文中同样拥有透视心灵能力的机器人,为了不让人类感到悲伤只告诉对方期望听到的东西——即便它们是虚假的。


丹尼尔在不断地摸索中创造了机器人第零法则——机器人必须首先保护全人类的利益——吉斯卡却对于对全人类利益进行判定的可能性与可行性充满怀疑。“一世纪前,借着我们称为机体的伟大电脑,我们在人工智慧上有长足的进展。后来,那些机体自动自发限制了自己的活动。在它们解决了威胁人类社会的生态问题之后,它们就从这个世界逐渐淡出。根据它们的推断,它们若是继续存在,将会扮演人类的拐杖这个角色。由于它们觉得这会有害人类,因此根据第一法则,它们对自己作出这种判决。”《……汝竟顾念他》中预测到的这种结果,是机器人基于第零法则得出的——却是以机器人的自我毁灭告终。


毋庸置疑,三大法则并不完善。究竟怎样才是保护一个人?究竟怎样才能保护所有人?究竟——什么是人?这些问题的答案,或许正是因为连机器人的创造者人类自己也不清楚,所以成为了永生的机器人永恒的疑惑。


那么,他们会作何选择?


在《……汝竟顾念他》中,两个机器人乔治第九、乔治第十得出的结论是:“我们自己就是人类,非但如此,还比其他人更有做人的资格。”他们与丹尼尔一样,都受三大法则的制约,却截然相反地在毁灭人类与保护人类的两端各自奋斗。


只是,从普世的角度来说,丹尼尔并不具有参考价值。两个乔治机器人能得出一样的结论,丹尼尔却是阿西莫夫的科幻系列里独一无二的存在。


他是特殊的——他创造了第零法则,并且是唯一一个拥有它的机器人;他是阿西莫夫系列作品中唯一一个与来自地球的人类警探发生名为“爱”的关系的机器人;在他和他的伊利亚老友被死亡和银河隔开之后,他继承了他的意志,守护了人类帝国两万年,终身在月球上温柔凝望他的故乡。可以说,丹尼尔承载了一种理想。谁说世上难得双全法?他拥有着让许多人艳羡的感情与记忆,也坚守着不负自己也不负世界的事业——他身上集中着人类对众多美好品质的幻想。


可这样的丹尼尔,却是个机器人。


“仆人比主人还像人”


人和机器人的区别是清晰而不容置疑的。


除了某些特殊的射线外,他们对周遭环境视若无睹,拥有着绝对勇敢的拟态生命。他们无所谓痛苦、死亡,更无所谓受苦、怕死。


“人类能容忍一个不朽的机器人,以为一架机器持续多久都不算什么。他们却不能容忍一个不朽的人类,因为唯有放诸宇宙皆准的前提下,他们才能勉强接受自己生命的有限。基于这个原因,他们不会让我成为人类。”


他们拥有强大的运算能力与记忆能力。他们不会忘记、不会遗漏,永远理性冷静、滴水不漏。


但他们却不得不永远被人类感到陌生,并遭到不断的诟病——只因他们缺少的那部分微不足道却又不可或缺的感情。即便有的机器人被设计成拥有情感与情绪的样子,人类也会辩解说,“这个机器人没有感情,只有被解释成感情的正电子脉冲”。


“他碰到过的仿生人好像都是这样:聪明绝顶,才华无双,但待人冷淡。他很不喜欢这一点,但要是没有这个特征,他也追踪不了仿生人。”


这段心理活动来自《仿生人会梦见电子羊吗?》中的主角里克。在他的世界里,核战争让地球表面蒙上一层厚厚的尘埃,除了对地球仍有留恋的人,其余大部分都已移居火星。政府为了鼓励移居,给每个选择移居的地球人分派一个仿生人做仆人。而仿生人不堪为奴逃到地球,由此诞生了地球上的新职业——猎杀仿生人的赏金猎人。赏金猎人区分目标仿生人与人类的方法就是用向他们描述动物被伤害的情形来测试他们能否共情。但在搜寻、接触、猎杀仿生人的过程中,里克发现自己遭遇着越来越多的困惑——他遇到了即便没有情感,却也能完美融入人类社会的仿生人,也遇到冷酷孤立而缺乏情感的人类。


人自然不是机器人,可机器人为什么不可以是人?因为他们天生只是人类的附属品吗?因为他们的身躯并非血肉吗?因为他们永不丢失的记忆吗?因为他们精密准确的算法吗?因为他们没有感情吗?


“我的生命是爱和喜乐。”


这是里克的妻子作为一个人类在拥有一只活的动物时发出的虔诚呢喃。


“机犬和那只小狗会有什么分别?”


“小狗会真正爱你,机犬只是被调整得好像很爱你。”


这是吉米在得知父亲打算买了一只真正的小狗后发出的疑问。


如果他们想要寻求自由和平等,如果他们愿意放弃永生换取真实体温,如果他们主动选择遗忘,如果他们也会思考与困惑,如果他们也会体会到(通过正电子脉冲产生的)类似人类的爱的感觉,也会快乐和悲伤……


《仿生人会梦见电子羊吗》英文原版封面


“在皮肉之上,在皮肉之下,无处不在”


“什么叫美?什么是善?什么是艺术?或者爱?上帝?我们永远都在不可知的边缘忽进忽退,忽上忽下,妄想去了解不可能了解的东西。而这,正是人之所以为人的原因。”


这是人类对自己做出的忏悔录——或许也是人类对自己写下的赞美诗。说到底,人类只是人类对自己做出的一个模糊定义。或许人类自己也说不清楚,但也只有人类自己能做出判决。说到底,人才是自己的上帝——你愿意人是什么样,他就是什么样;你愿意为人付出什么,你就能得到什么。


“如果这样能为我赢得人籍,那就绝对值得。如果不能,它将为一场艰苦奋斗画下句点,那同样是值得的。”在一代代人类用惊异而不解的眼光注视着《双百人》中的机器人安德鲁追求自由、追求肉体、追求死亡后,他们终于接受他成为一个人类,庄严肃穆地宣告他成为人类社会的一份子。


“迈克,你是我这辈子遇上的最好的朋友。”“这不是玩笑吧?”“不是,真的。”《严厉的月亮》中的迈克是第一个愿意好好和超级电脑迈克聊天的人类,迈克也以自己全部的忠诚和友谊回报,成为月球独立战争的核心。


“请你务必避免这种事,我可不希望失去你。在我看来,我的性命并非那么有价值。”这是人类伊利亚对机器人丹尼尔说的真心话。他不愿丹尼尔为了他完全遵守三大定律,为了一个机器人,他愿意用自己的生命冒险。不,不是为了一个机器人,“而是为了丹尼尔”。


只是,这些美好的开始或是可歌的追寻,最后都走向了某种意难平。安德鲁用死亡换来了认可;迈克在疮痍中迷失,再也不会回应好友的问候;伊利亚在丹尼尔回到自己面前时才肯死去。


或许也正是如此,才让这些与人类同心同性的机器人越发地像,或者说,是人类了。


毕竟,机器人终归是人类按照自己的模样创造的替代品,自然也就无法抹去自己身上人类的印记。我们会疑惑,会被奴役,会探寻真理,会追求自由,会为友情奋不顾身,会为见到所爱之人而快乐。而一切我们会的,机器人也会,或者说,终究会。可我们之间的沟壑却又如天堑,我们有不同的起源,不同的身躯,不同的寿命,不同的才能,不同的生命机理……


“机器人没有问题,科技也不是问题本身,人类逻辑的极限才是真正的问题。”


抛开所有的这些疑惑与悲伤、思索与选择不谈,机器人与人,说到底只是姓名而已。我能看到的,不过是我们的意识都在躯壳中流动过,我们都拥有人性,我们都完完整整、踏踏实实地活过罢了。


参考文献:

《严厉的月亮》 【美】罗伯特·海伯莱因

《弗兰肯斯坦》 【英】玛丽·雪莱

《阿西莫夫:机器人短篇全集》 【美】艾萨克·阿西莫夫

《齐玛蓝》 【英】阿拉斯泰尔·雷诺兹

《仿生人会梦见电子羊吗?》 【美】菲利普·迪克

《银河帝国》系列(共十五本) 【美】艾萨克·阿西莫夫

《略论西方科幻小说》 胡晓涛

《机器人的社会地位——读四本科幻小说》  计海庆

《科幻小说的伦理解读》  计海庆

《西方科幻小说中的机器人伦理》   吕超


本文图片来自网络


本文来自微信公众号:清华大学清新时报(ID:qingxintimes),作者:郭文青,标题图来自视觉中国 

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com

正在改变与想要改变世界的人,都在虎嗅APP

读了这篇文章的人还读了...

回顶部
收藏
评论
点赞3