两位诺奖女人向杀人机器发起了“攻击”
2019-04-09 17:03

两位诺奖女人向杀人机器发起了“攻击”

本文来自:网易智能(ID:smartman163),选自:the Guardian,作者:Melissa Chan,编译:网易智能 (小小)


不断参与战斗的战争机器人,自主决定应该攻击谁的算法,能够识别目标并在瞬间击毙你的人脸识别战斗机器,这一切听起来有点儿像是科幻小说里的情节。  


然而这并不是电影剧本,而是一幅关于未来战争的不祥图景。“杀手机器人”是一系列技术的简称,这些技术让将军们垂涎三尺,但却让和平运动人士对通过数字代理发动战争的后果感到恐惧。  


现在,两名只拿着诺贝尔奖、拥有专业知识和坚定信念的女性站在了这些致命杀手机器人的面前,她们想要禁止这类机器人,而且她们以前也做过类似的事情。  


乔迪·威廉姆斯(Jody Williams)因领导全球禁止杀伤性地雷的长期努力而获得诺贝尔奖,玛丽·韦勒姆(Mary Wareham)也是那次运动的重要支持者。韦勒姆回忆说:“我们当时在诺贝尔和平奖颁奖典礼上,我对乔迪说,我们现在该怎么办?”  


没多久,她们就将目标对准了致命的自主武器系统,简称为Laws。


威廉姆斯和韦勒姆预计,她们的斗争会更加艰难。威廉姆斯表示:“相对而言,地雷只代表着微不足道的利益,而制造商可以通过销售人工智能(AI)增强武器赚取数十亿美元利润。”  


事实上,AI已经通过警务、医疗、农业和社交工作迅速传播,但AI专家警告称,军队将是下一个目标。最大的问题是:怎样才能阻止军队部署升级后的无人机机器人来搜索、识别并消灭某个村子里的所有人?或者派无人机去执行身份识别任务,然后暗杀某个人?  


武器制造商们正搭乘着与其他行业相同的AI浪潮,在一场平静而激烈的军备竞赛中,这些军方正密切关注着,并为某些最尖端的试验提供资金支持。  


对有些人来说,AI的优势显而易见:杀手机器人永远不会像人类士兵那样疲劳,它们可能会在战场上待上几个月,永远不会生气或寻求报复,也决不会违抗军官的命令,这些机器人会把不完美的人从等式中去掉,而算法将决定杀死谁。


以色列的Guardium无人驾驶安全车可以自行做出决定,并可执行边境巡逻任务


但也有其他军事专家对此表达了担忧。


前美国陆军突击队员、撰写了美国国防部有关杀人机器人最早政策声明的保罗·沙雷(Paul Scharre)表示:“致命自主武器不仅存在法律和伦理方面的担忧,也存在实际挑战,人类如何控制自主武器?如果系统出了小故障或者有人入侵了怎么办?”  


对威廉姆斯来说,这些机器正是冷血屠夫的典型代表,有了杀人机器,第三次世界大战几乎将不允许人类出现在战场上,在任何21世纪的冲突中,西部前线都不会再有“圣诞休战”的场景出现。威廉姆斯愤怒地说:“这是男人对新武器的强硬态度,他们这么做只是因为他们能够去做,还因为他们想看看它能走向何方。”  


目前,以色列已经拥有许多先进的机器,包括在加沙边境巡逻的武装地面机器人,以及能盘旋在空中直到找到目标的导弹“哈比”(Harpy),以摧毁敌方雷达为卖点的武器,没有任何技术壁垒可以阻止该行业的工程师开发出类似武器,将来这些武器很可能也会攻击人类。  


此外,在美国加州中部的山谷里,美国军方正在进行无人机群实验,俄罗斯也已经宣布,该国希望组建完整的杀手机器人营。


然而,没有任何法律监督这种AI军备竞赛,各国处于各自为战的混乱状态。  


不过令人欣慰的是,科学家们已经拉响了警报,250多家研究和学术机构以及该领域的3000多名知名人士呼吁禁止杀人机器人,但除了请愿之外,活动人士认为阻止这项技术发展的最佳途径是制定国际条约。  


这也是阻止机器人杀手运动所采取的策略,来自54个国家的100多个组织加入了该联盟,目标是到2021年达成协议,威廉姆斯是个理想主义者,但她并不天真,自抗议越南战争以来,她始终在与军工企业进行斗争,怀疑论者曾认为禁止地雷是不可能的。


3月21日,“阻止杀人机器人”运动的抗议者在柏林举行抗议活动


但威廉姆斯表示:“如果你不采取任何措施阻止它,最终糟糕的后果可能是不可避免的,当他们向我们灌输‘这是不可避免的’的时候,他们实际上是想要剥夺你的权力。”  


在“禁止地雷”运动中,威廉姆斯等人曾游说联合国通过一项协议,当这一进程停滞时,他们在联合国框架之外进行谈判,并开始一个接一个地把各国召集起来,直到1997年在渥太华达成了一项历史性协议,120多个国家承诺清除杀伤性地雷。  


如今,阻止杀手机器人运动也遵循着类似的路线图,联合国在日内瓦举行了几轮会谈,包括三月底举行的最新会议,但阻止杀手机器人运动已经对这一进程失去了信心,现在正专注于单独采取行动。  


威廉姆斯和韦勒姆希望德国能做出表率,该国在今年年初加入了联合国安理会,其外交部长Heiko Maas很关心这个问题,他最近称杀手机器人“无异于对人类自身的攻击”。  


在幕后,德国政府已经与其他国家接触,争取获得更多进展,至少德国的许多政界人士认识到,德国有机会成为第一个禁止杀人机器人的国家,如果它这样做了,其他欧洲国家也会效仿。  


但德国在这一问题上的行动有时也充满不确定性,尤其是在联合国的讨论中,在某种程度上,为了促使德国采取行动,“阻止杀手机器人”运动成员上个月在柏林聚集起来,争取公众的支持。  

站在该组织的“友好”机器人吉祥物大卫·海汉姆(David Wreckham)前,威廉姆斯敦促她前面的人群联系各自认识的政治人物,并传播这个消息。


抵制杀人机器人的拥护者都在期待这两位诺奖女性的再次成功。


本文来自:网易智能(ID:smartman163),选自:the Guardian,作者:Melissa Chan,编译:网易智能 (小小)

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP