本文来自微信公众号：机器之能（ID：almosthuman2017），编译：高璇，编辑：宇多田，参考来源：Quartz，题图来自Unsplash，图片与内容无关
编者按：
波音空难事件发生时，我第一个联想到的其实是去年 5 月发生的四川航空 3U8633 航班迫降事件。
这起迫降事件在很大程度上由于机长及其组员极其出色的机动性处理能力，从而避免了一场灾难性事故——所有乘客都幸免于难。
也正因为如此，对机长刘传健的赞美声铺天盖地，甚至在几个月后他便被清华经管学院录取。
直到上个月，“英雄机长”的这个名头仍然在被媒体所“消费”，被“安排”与当时的乘客在电视台节目现场见面并拥抱，“重温”当时千钧一发的时刻。
是的，我一直在关注 3U8633 航班事故的后续发展，然而这场本应该对飞机零部件以及故障排查系统进行责难的事故报道方向，不出意外地全部将焦点转移到了“人”的力量上。
去年 6 月以后，关于这架空客飞机碎掉的玻璃质量问题，以及故障排查系统为何没有任何反馈，没有任何报道以及官方声明。
难道说，像波音这种造成如此严重的两次空难，后果已经酿成，就应该公开进行长达几个月的第三方故障调查，并背负全球的责难声；而川航迫降事件，反正靠机长迫降大家活下来了，结果是好的，飞机本身的问题就不那么严重了？
如此看来，下一次假如遇到类似的事故，真的还得全部指望能遇到一个有高超飞行技术的好机长；下下次是，下下下次也是……
一次成功的迫降，恰恰把很多迫切需要解决的问题掩盖了，如果直到发生像波音坠落这样的重大灾难才进行彻底反思，是不是就太晚了。
而实际上，飞行机身各个零部件，自动驾驶系统，故障排查系统，安全冗余系统等等，以及飞机制造商与航空公司的态度，甚至于国家有关部门的监管措施，都应该进行持续检讨。
既然选择信任一种交通工具，那么我们每个人的安全就从来都不是靠单一维度来保证的。
作为一名科技工作者，很多疑惑最终只能汇成一句话：
无论成熟与否，每一门技术的改进都永无尽头。
编译正文：
近几年来许多国外关于自动驾驶的研讨会，总是会不由自主地提到航空航天产业。
譬如，当专家想要说明自动驾驶汽车的安全性时，他们会以现代飞机极好的安全记录为证，这显然很合理。
目前，在全球范围内，每 300 万次大型商业客运航班中仅可能发生一起致命事故（自 20 世纪 70 年代以来下降了 16 倍）。
而去年，美国航空公司遭遇了自 2009 年以来的首次空难。
但是，飞行员绝不应该因此获得所有夸赞。
商用飞机在每次飞行时，飞行员操纵的时间仅约三至六分钟，主要是在起飞和降落期间。其余时间均由自动化系统负责。
至少 10 年前，商用飞机就可在无人协助的情况下飞行。然而他们没有推进这项技术向其他产业发展的原因不是技术本身，而是担心规则或人们的心理问题。
专家告诉记者，航空之旅一直被视为“自动驾驶安全”的黄金标准。然而继波音公司之后，飞机再也不能与自动驾驶汽车进行类比。
我们都清楚，在过去的六个月里，波音公司的 737 Max 8 客机发生两起坠机事故，导致 346 人死亡。
但在很大程度上，失败的不是这项技术（尽管飞行传感器确实在两个航班上都出现故障，并且软件缺少防止错误读数的系统）。
为了更新其 20 世纪 60 年代（付费墙）飞机设计以提高载客量，并以更低的成本实现更高的燃油效率，这家航空航天公司及其监管机构排查了一连串故障（几乎每一步都有错误），对系统做了一系列修正。
而这样做的结果却导致，两名飞行机组人员无法从自动驾驶系统中夺回飞机控制权，而自动驾驶系统多次迫使飞机向下俯冲。
根据航空业一项默认的规定，安全装置是作为昂贵的飞机附属产品出售的，而不是作为标配设备。与此同时，围绕新设计进行的“飞行员再培训计划”也几乎被忽略了（据一名飞行员透露，仅仅只学习“一个小时的 iPad 课程”）。
尽管对飞机的机身和发动机进行了重新设计，但波音公司对这些变化还是轻描淡写。但实际上，这些变化改变了飞机的操控方式，比如增加了防止失速的软件系统。
当启用防失速系统时，其他软件系统无法阻止该软件强制 Max 8 进入俯冲状态，并且驾驶舱指示器并未向飞行员展示如何在危机中控制系统。
此外，在飞机研发期间，美国联邦航空管理局（FAA）没有提出重大异议。
当出现问题后，波音公司也拒绝任何批评，只是开始缓慢地解决问题，并声称政府官员在第二次事故发生前没有让飞机停飞。
很显然，这些决定将原本可预防的技术错误转变为导致数百人死亡的系统性失误。
所以，责任到底在谁？
继波音之后，我们不得不考虑这场灾难与自动驾驶汽车的相关性，因为我们开始重新思考一个问题——
“选择信任一辆自动驾驶汽车”，仅仅是取决于“我们是否可以相信这门技术”吗？还是在于“我们是否可以完全信任开发此类技术的公司和监管机构”？
当涉及他人生命时，波音公司的冷血做法暗示了自动驾驶汽车（AV）将面临的问题。用于自动驾驶汽车的软件将比飞机上的软件复杂得多，而且都未经测试。
汽车厂商们，你们需要注意
737 Max 令人痛心的死亡人数至少让一位汽车业高管感到担忧。
戴姆勒首席执行官 Dieter Zetsche 于 3 月 24 日在中国的一次会议上表示，波音公司的危机显示了自动算法出现问题的后果。
Zetsche 认为：
“即使自动驾驶汽车比人类驾驶汽车安全十倍，一个引人注目的事故发生也会使自动驾驶得到广泛认可倍加艰难。
如果你看到波音公司发生的，那么你可以想象当这样一个系统在道路上出现事故时会发生什么。”
事实上，这就是美国联邦航空局的由来。
1956 年，两架商业航空公司飞机在大峡谷上空相撞，这是当时商业航空历史上最致命的事故，造成 128 人死亡。
这场悲剧促使美国成立了联邦航空局。甚至它的前身——美国民用航空管理局，也只是在莱特兄弟制造出第一架动力飞机几十年后才成立的。
当下，持怀疑态度的公众目前正在寻找关于自动驾驶安全性的线索，因为汽车公司（和政府）正在竞相推出它们。然而到目前为止，这一切还没得到保障。
皮尤研究中心于 2017 年的一项调查显示，只有不到一半的美国人想乘坐无人驾驶汽车，42％的美国人认为“不放心”是很大一个原因。
有意思的是，自从 2014 年提出这个问题以来，公众态度几乎没有任何改变。
这里强调公众的态度，并不是说人类驾驶就绝对安全。
每年，全世界有超过 100 万人死于车祸。在美国，每年有 3.7 万人死于交通事故，其中 94% 是人为失误造成的。但截止目前，无人驾驶汽车是否真的更安全的确凿证据，还没有任何人能拿的出来。
此外，自动驾驶汽车的里程仍然无法与人类驾驶员的里程数进行比较，因为自动驾驶汽车目前的行驶地点和条件都严重受限。
因此，一旦发生一个失败案例，就让人无法忘却。
例如去年 3 月，Uber 的自动驾驶汽车（带有安全驾驶员）在亚利桑那州坦佩市夜间撞击了一名女子。另外还有至少三起致命事故，都是由于特斯拉司机将过多的控制权交给了汽车的自动驾驶系统。
南卡罗来纳大学法学研究自动驾驶汽车影响力的 Bryant Walker Smith 教授就此在文章中写道：
“在自动驾驶行业的短暂历史中，这些'令人担忧'的事故在历史前期就很快就发生了；
在美国，人类安全标准是每 1 亿英里里程大约只发生一起事故，自动驾驶仍远未达到这个标准。”
自我监督与政府监管的博弈
我们现在追逐人工智能技术的世界，恰恰是一个让计算机在不确定条件和有潜在致命性的情况下为我们做出判断的世界。
它们的错误往往比我们对工厂和客机现代自动化系统所预期的更为频发。因为开放道路上不可预测的环境比建筑物内或商业领空复杂得多。
因此，“安全监管”必将在自动驾驶行业中占据非常大的比重。
加州大学伯克利分校的研究工程师 Steve Shladover 表示，波音公司的失败表明，我们需要一个更加强大的监管机构来避免波音这样的错误。
这家市值 2110 亿美元的公司在制造火箭和飞机方面有数十年的经验，但不知为何却忽视了自动驾驶系统的基本设计原则。
譬如，坠落的 737 Max 飞机的飞行员几乎没有自救的选择。波音公司坚持使用纸质手册（付费墙），而不是用电子系统更新其驾驶舱显示器，因为这样一来会牵扯到更多的飞行员培训时间与成本。
而后果之一就是，去年印尼狮航的飞行员为了控制坠入爪哇海的喷气飞机，一直在翻阅手册（最终，机上 189 名乘客全部遇难）。
“我希望许多从事自动驾驶系统工作的人在波音事件后，会更加谨慎地考虑这些事情，希望减少类似问题发生的风险，”Shladover 在电子邮件中说。
“我们确实需要对自动化系统开发人员进行有意义的独立监管，而不仅仅依靠他们来监管自己。”
当然，这种监管不太可能来自美国。
多年来，特别是在特朗普政府执政期间，越来越多的企业被放任自流。美国联邦航空局已经将其适航认证程序逐步移交给飞机制造商。
对于 737 Max 飞行软件，美国联邦航空局批准了波音公司自己的工程师团队“代表 FAA 进行检查和测试，并颁发证书”。该机构后来也批准了波音公司的调查结果。
如今，美国政府正在对此进行刑事调查，并审查美国联邦航空局对 737 Max 的认证程序。
不得不说，“将监督权进行外包”的模式逐渐走向巅峰。
在第二次 737 坠机事故发生后的最初阶段，美国政府似乎屈于波音公司的压力。首席执行官 Dennis Muilenberg 直接向特朗普总统呼吁要求 737 Max 要继续飞行。
后来，尽管特朗普宣布在美国停飞 737Max 8 与 9，但就在这项命令颁布的三天前，数十个就国家已经颁布了禁飞令。
而特朗普当时告诉记者：
“我们本可以不在今天做出这个决定，本可以推迟两天再说，我们可能没有必要去这样做。但我觉得这样做在人民心理上以及许多其他方面都非常重要。”
FAA 代理局长 Dan Elwell 后来则声称这个决定是”基于事实的”，因为“获得的新卫星数据跟踪了飞行模式”。
不过外界认为，特朗普提名的下一任美国联邦航空局局长候选者，是前达美航空高管 Steve Dickson，这种出身说明其不太可能改变行业对监管机构的影响力。（在此之前，特朗普曾考虑过提名他的私人飞行员 John Dunkin 担任此职，但遭到国会的反对。）
那么，你信任谁？
目前还不清楚 737 Max 坠机事件会给公众留下多久的印象。
Smith 认为，一旦一项技术出现，最终技术的好处往往会消除人们的不信任感。
譬如，在上面提到的选择接受自动驾驶汽车的 44％的美国人中，避免压力、可同时进行多任务处理、彰显独立性以及“非常酷”是他们给出的主要理由。
显然，一旦一项技术变得无处不在，即使安全问题还没有得到充分解决，人们也会开始学着去接受它。
因此，Smith 认为，这意味着我们需要更多地关注“开发和部署试驾汽车的公司是否值得信任”，而不是“公众是否会接受自动驾驶汽车”。
事故可能会发生，继而大众对这项技术的信任也会受损。但是，有所准备的企业与政府问责制却能够改善人们对这项技术的印象。
尽管美国联邦航空局最近马失前蹄，但整个航空业却对坠机情况进行了详尽研究，并通过增加新功能和重新设计飞机，积极迫使航空公司和制造商改善安全记录。
然而，硅谷企业家，同时也是斯坦福大学兼职教授的 Steve Blank 却认为，这种行为放到汽车行业从目前来看似乎没有可比性。
“汽车制造商和车辆安全监管机构大多是被动的而不是主动实施监管。每种车型都没有公开的审批流程。
制造商根据联邦安全标准对其车辆进行自我认证，只有在发现缺陷后，监管机构才会采取行动，当缺陷严重时才会启动召回。
然而，自动驾驶车队与复杂的半自动驾驶飞机相比，的确有很多共同之处。无论如何，主动测试机制是有意义的，但目前没有任何存在的监管框架可以做到这一点。”
目前，美国运输部的最新政策允许汽车公司们在没有安全测试的情况下自行认证他们的新自动驾驶技术。
因此，当有数百万辆手动、半自动和自动驾驶汽车涌入我们的道路时，旨在鼓励创新并降低制造成本的 20 世纪监管框架是否能够持续发挥作用？
这一点尚未可知。
“一些国会和政府要员不信任这些技术，不信任技术的开发者，不信任技术的监管者。
鉴于这种信任的缺失（当然，这种缺失是理所应当的），很难想象国会与政府在这一领域的监管权限和监管弹性。”
其实最终，政府与公司之间，公司与乘客之间，政府与个人之间信任的此消彼长，仍然取决于这项技术真正的能力。而现在，你是否愿意将自己的信任赋予给自动驾驶公司？
本文来自微信公众号：机器之能（ID：almosthuman2017），编译：高璇，编辑：宇多田，参考来源：Quartz