“原谅宝”:“科技向善”的反面
2019-06-01 11:25

“原谅宝”:“科技向善”的反面

本文首发于航通社,原创文章未经授权禁止转载。航通社网站:lishuhang.me 微信号:lifeissohappy 微博:@航通社


书航 6 月 1 日发于北京


2017 年,程序员苏享茂因遭遇前妻翟欣欣“骗婚”索要1000万元和房产赔偿而自杀,引发了社会对“老实人”程序员“接盘”的关注和调侃。


最近,有人号称开发出了检测“小姐姐”的 AI 产品,声称是为了“解救”程序员群体,最终却顶不住舆论压力以“删库跑路”告终。


这样的产品,一旦真的做出来并流行开去,会带来怎样的社会影响?假设它真的有效,你会用它和相信它吗?


它是什么


5 月 27 日,微博用户 @将记忆深埋 表示,他完成了在半年前开始准备的一个项目:将色情网站上的公开视频和图片打标签后做匹配,以实现所谓“以图搜片”,查询者可以通过上传女性照片、视频和数据库做匹配,判断该女性是否疑似从事过色情行业。


他表示,已经“在全球范围内成功识别了 10 多万名”疑似从事色情行业的女性,同时,可以对美颜、Deepfakes 换脸等有效对抗,识别率达到 99%;而对于声音语气模仿采用声纹检测对抗,识别率达到 100%。


不过,他只是自己宣称而已,并且他以害怕违法为由,拒绝开放 API 或查询页面,也不公布论文或开源算法,而是打算做成一个商业产品。有热心网友替他想好了产品的名字:原谅宝。


微博下面一片骂声。激烈反对的以女性居多,相反坚定的支持者多为男性。支持者们认为,在微博下反对的女性反而是“自投罗网”;甚至据传,有一位反对者的微博被“挖坟”,发现了所谓“黑历史”。这就意味着,即使是发个帖说下反对意见,也必须做好万全的准备,确保万无一失才行。


5 月 31 日,本来说要直播接受媒体采访的作者取消了原计划,同时删除了整个项目和数据库,因言论给他人造成不便而道歉告终。只是对这个项目的讨论并没有随着作者“删库跑路”而终结。


正如刘慈欣在科幻小说《镜子》中说的那样,即使某一个人有了惊人发现后秘而不宣,地球上一定会有同时想到同一个点子的其它人率先打破沉默,公开同样的成果。[1]


它可能有私心


令人疑惑的是,作者宣布这是一个商业化的软件,即使他自称将把维持服务器开销后的其他收入,用来捐助所谓的防治艾滋病基金。


然而,他并没有选择最稳妥,也最可靠的方法以获得潜在使用者的信任——也就是将整个技术和背后所用的素材库开源。没有开源,代码便不能接受监督,而外部人士也完全有理由来怀疑它是“暗箱操作”。


例如,产品正常判断出结果之后,有可能被植入一些特定人的特定信息,做所谓“人为矫正”。这就意味着即使其数据源网站中并不存在的片段,也有可能会出现在原谅宝的结果当中。


反过来,也有一些人可能已经识别到,但是假设这人交一些钱,或者采用一些手段,就可以让“原谅宝”不显示这个识别结果,相当于是买了 VIP 会员就“隐身”。


如果不是完全开源以证清白的话,没有办法证明作者能抵挡得住这样的诱惑。


有人说,市场上也有对男版“原谅宝”的强烈需求。问题在于,要找出所谓“渣男”的证据,露脸的图片或视频远远比不上之前传出泄露的开房记录有效。


在众多“资源”中,男性的脸和身材并不是观众“欣赏”的主要对象,男主不出现都没关系,更准确的说是不希望他出现,有很多片子是所谓的第一人称视角。这就会使男性在片中曝光的可能性远远小于女性。


更不用说,这其中有一些片段,其实是此前所谓“裸贷”“裸条”的产物。其中的女性是被逼迫拍摄的,并非本人自愿,当然就更不可能有男性出场。因此,男性的数据集要远远少于女性,如果要做“男版原谅宝”的话,准确率也会更低。


但是女性的需求却是真实存在的。《谷雨》的特稿描写了香港的“私家侦探社”,他们就像是“民间的警察”,帮助客户解决警察无法处理的隐形问题。他们经手的多是商业调查和家庭纠纷,后者包括调查子女吸毒援交、配偶婚外情等。[2]


与这些真实而迫切的需求相比,仅通过“小姐姐”单点突破的“原谅宝”,其产品设计上不可言传的暧昧就非常明显了。


它不能确保万无一失


即便“原谅宝”用某种方法证明了自身的中立和非歧视,但仍有或许不可逾越的技术门槛。


人脸识别可能在某些地方已经比较精准,但在缺乏一个准确的数据库的前提下,“冷启动”的准确率仍然不高,这是一个即使连谷歌或百度这样的技术巨头都尚且无法解决的问题。


现在,苹果 [3] 和谷歌 [4] 都在各自的操作系统中,准备把现有的 AI 算法从网络调用变成本地运算,将整个包压缩到手机能承载的范围之内,搭载最新的 AI 芯片,以便将一些在线运算转为本地运算,以充分保护用户的隐私。


即便如此,这也并不意味着经过少数训练,甚至基本没有训练过的某张随意给定的照片,都能得到很高的准确率。


“原谅宝”声称使用的都是公开资源,一些早已出名的“下海”人士的面孔当然是清晰的,但是识别出来也没有太大意义。至于所谓“素人”,要么脸部有遮挡,要么来自偷拍,导致图像晃动或质量不佳,发生误判的几率非常高。[5]


而且,即使是给定的几个网络社区,也不能说其上传的所有内容都是所谓“自愿”的。由分手后有意报复的一方上传的“复仇色情”(Revenge Porn)或者 Deepfakes 等制造的“换脸视频”,都没有 100% 保险的区分办法。


“原谅宝”作者目前为止披露的技术手段,跟外界预测的没有太大区别,所以他所讲的准确率也不让人信服。


它助长传谣,不能辟谣


“原谅宝”的出现还可能促成不准确的结果大举流传,演变为谣言的传播,给可能无辜的当事人带来不可挽回的伤害。


“原谅宝”如何建立自身可信度,以及攻克技术难关都尚且存疑,不过有很多评论者已经决定信以为真。具体使用者不一定能准确的认识到查询结果的模糊性,并在使用时留一个心眼。


一部分原因是,之前出现过有些违规使用户籍查询系统来做“人肉搜索”的情形。由于户籍不靠算法,可以认为是 100% 准确的,只需要考证截屏是否为伪造;而图像真伪,往往又是由所谓“线人”的人格做担保的,可以寻根溯源。这使得人们习惯了相对“精准”的人肉搜索结果。但是,如果也用同样的眼光来看待“原谅宝”生成的,准确度只有一定概率的结果,就非常容易产生误判。


误判之后,能否纠正呢?太困难了。像是最近有一个谣言说华为跟阿联酋签署了 5G 协议,阿联酋为答谢华为在迪拜塔开展灯光秀。这个传闻已经连续两三天出现在我的朋友圈和群聊当中,即使是一些本身就从事传媒行业的朋友也会转发过来。


实际上,阿联酋与华为签署 5G 协议是今年 2 月初的 [6] ;迪拜哈里发塔亮灯发生在去年 10 月 Mate 20 [7] 和今年 4 月 P30 的中东发布会 [8] 期间。但是,在已经广泛辟谣后,此消息仍在流传的现实,再次证明了“造谣一张嘴,辟谣跑断腿”的道理。


所以,我们并不能指望万一“原谅宝”发生误判之后,就能突然以良好的机制来防止谣言扩散和辟谣。倒不如说,由于“原谅宝”所引发的谣言传播,几乎在这个产品公布出来的那一刻,就是注定了的。


它本质上是“人肉搜索”


“原谅宝”所采用的原始数据,以公开状态在网上放了很长时间,并没有掀起什么风浪。然而,这是因为这些数据是打散的,并且没有形成一个系统的链条。


如果“原谅宝”真的如其作者所声称的一般,可以通过极其简易的方法,实现对数据的梳理和总结,使得普通人利用这些信息成为可能,这些信息就从几乎等于不存在一样,转变为对当事人真实可见的威胁。


即使并非“开房”这样敏感的数据,只是一个人普通的人生轨迹,形成完整的链条之后,后果都可以相当严重。微博名人和菜头曾经提出,微博可以帮助人贩子得知博主及孩子的各种详细线索。有位女网友不相信,和菜头就把她的 700 多条微博翻了个遍,并出具了一份含有她所在城市、工作单位地址、孩子的姓名、生日、常去的地方以及家庭结构等的分析报告。[9]


历史上,QQ [10] 、支付宝 [11] 和抖音[12] 都遇到使用者投诉,说利用通讯录、算法等分析得出的“你可能认识的人”推送功能,向其推送了并不愿意再联系的前男友或前女友。即使是这样完全不涉及敏感信息的功能都能遭到争议,那么像“原谅宝”所涉及的领域,如果不遭到更大的非议,反而就很奇怪了。


很多人在匿名状态下,失去了社会身份的约束,容易激发出人性中黑暗的一面。对于涉及别人的隐私,大家都很愿意窥探,有窥私心理,而如果是涉及自己的隐私泄露出去,则一定要坚决反对。


不知是受到先天的影响,还是后天的规训,不同的性别也体现出不同的立场。对自身隐私和安全满不在乎,又有强烈的窥私欲望的,男性居多;反过来,既对别人的历史和隐私不感兴趣,又强烈的在意自己的隐私被曝光的,女性居多。


但有趣的是,经常到别人的微博底下挖坟扒黑历史的,男女都有,特别是在一些触及粉丝“逆鳞”的地方,女性尤甚。[13]


其实,这种因窥私而穿透别人隐藏于互联网各个角落的个人信息,并将其串联起来的行为,正好就是上文说到的“原谅宝”的作用——将打散的数据整合为证据链条,梳理出一个人的数字足迹,带来了极大的社会隐患和人人自危的不安全感。


它的初衷,有更好的方式去实现


作者说,“原谅宝”开发的初衷是为了避免程序员陷入所谓的“女神”陷阱。然而,如果只是想让程序员不做“接盘侠”,想让他们找到品行端正的另一半,就只有这一条路可走?


除了这种反向识别出“小姐姐”的方式之外,明明还是有可以正向识别的方式的。为什么人工智能不能通过一些选择项,让一些默默无闻,藏于深闺,但又渴望真实爱情的好女孩,在人群当中脱颖而出呢?


“母胎单身”绝不可能是男性独有的问题,特别是当城市里其实涌入了不少出身农村,但不愿回去的女孩的情况下,总是会出现单身男女相互不匹配的”结构性资源短缺“。


在知乎的情感问题区,有很多类似“如何让一个男生喜欢上你”的由女性提出的问题。中国孩子在成长阶段,一般都被“禁止早恋”的家长粗暴剥夺了自学恋爱技能的机会,一到上大学或毕业,又被赶鸭子上架要求解决对象问题。这样培养出的,当然有两耳不闻窗外事的男码农,但谁说这样就不能产出觉得恋爱是羞耻的,释放女性魅力是“放荡”的,从而过度封闭自我,不为人注意的女孩呢?[14]


那么,如果这样的女孩能够找到一个同样老实,不会背叛的,又顾家,又上进的程序员,这实际不也是“天作之合”吗?这样的信息,是否能够通过一个正向的所谓“恋爱宝”这样的东西来匹配呢?为什么作者不能从这个方向去想?


退一步讲,即使是从避免“感情骗子”的角度讲,也完全可以做一些更为基础性的工作。


以翟欣欣为例,有人评价她的对外档案十分符合所谓“好嫁风”的描述:长得漂亮,但是穿得很保守,看起来土土的;家世好,家里有点钱,好大学毕业,有不错的工作 [15]。但事发后,她被曝光资料作假,曾有婚史。


这种信息很大概率不会出现在“原谅宝”的数据集当中,但它实际上是“码农”们更需要的。都说区块链追根溯源能解决差不多一切问题,能用区块链或者大数据揪出婚恋网站的公开资料造假吗?这不是比充满了性暗示的“原谅宝”更有用?


小时候,我读到一个故事,但现在已很难找到。故事说,一个优秀的银行验钞员被问到有什么检验的技巧时说,自己也不知道有什么窍门,只是接触纸币时间长了,能感觉到假币的手感不像是真的。


后来,我找到一个媒体报道,说某地发现的拼接假币,验钞机无法识别,是柜台服务人员手工点钞时发现的。[16]


这种“无他,唯手熟尔”的故事说明,解决同样一个问题,我们可以用反向的“堵”,用预设他人不可信任的方法,也可以用正向的“疏”,用给社会造成更小分歧与创伤的手段。


在我看来,现在很流行的概念“科技向善”不需要企业一定得做慈善,而是在面临这样的抉择的时候,去选择那些弥合分歧,而不是撕裂分歧的办法,用保护他人,而不是伤害他人的办法,用双赢,而不是零和游戏的办法,这样就已经是最大的“善”了。


而“原谅宝”这个产品体现出的,就是“科技向善”的反面。


[1] http://www.kehuan.net.cn/book/jingzi/14.html


[2] https://mp.weixin.qq.com/s/glFP-fP2aDQVIK1a0KTuxQ


[3] https://mp.weixin.qq.com/s/shXkZk7-OLEgS1OkW3JyWg


[4] https://www.leiphone.com/news/201905/ArmUEPJXPEx00fuZ.html


[5] https://www.zhihu.com/question/326781498/answer/699600752


[6] https://news.sina.com.cn/c/2019-02-27/doc-ihsxncvf8136019.shtml


[7] https://www.weibo.com/3032210184/GFyC2nATV


[8] https://www.weibo.com/3032210184/HnN6OleI5


[9] https://mp.weixin.qq.com/s/G0e1QX6uofpK59y1LJ_iQw


[10] https://www.geekpark.net/news/155595


[11] https://news.mydrivers.com/1/495/495337.htm


[12] https://news.mydrivers.com/1/619/619833.htm


[13] https://mp.weixin.qq.com/s/PRDB0rTK-S-AyyyB9hjm0g


[14] https://www.zhihu.com/question/267027873/answer/599314321


[15] https://baijiahao.baidu.com/s?id=1601606367980732550


[16] http://www.dffyw.com/fayanguancha/sh/200901/20090117195040.htm

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com

正在改变与想要改变世界的人,都在虎嗅APP

赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定

读了这篇文章的人还读了...

回顶部
收藏
评论16
点赞38