科技公司为你的脸操碎了心
2021-03-03 07:38

科技公司为你的脸操碎了心

本文来自微信公众号:极客公园(ID:geekpark),作者:赵晨希,头图来自:视觉中国


春节过后,中美两地同时掀起了一种特效小视频风。


恶搞“蚂蚁呀嘿,蚂蚁呀呼,蚂蚁呀哈”(《Dragostea din tei》歌词音译)BGM 的短视频在各大视频、社交网络平台上刷屏。通过AI技术,将静态照片动态化处理,将人的口型、眼神等神态与歌曲内容完好匹配,制造出喜感、魔性的“变脸”恶搞视频,再搭配上名人如比尔 · 盖茨、巴菲特、马云的共同“演绎”和有趣的文案,广受网民们欢迎。


“蚂蚁呀嘿”总统合集|YouTube


除“蚂蚁呀嘿”特效视频背后的应用软件Avatarify,抖音、快手等也迅速上线“蚂蚁呀嘿”视频制作模块,支持用户上传照片,“变脸”欢唱。


而大洋彼岸则涌现一股“怀旧主题”。


在线家谱公司MyHeritage开发了一项名为Deep Nostalgia(深度怀旧)的AI服务,可以将静态老照片处理成几秒的小视频。上线Deep Nostalgia功能的最初目的是,让用户上传已故亲人的照片,通过观看亲人栩栩如生的动画,以治愈无尽的思念。目前,MyHeritage公司的AI模块已经嵌入Twitter,引发Twitter用户跟风怀旧。


Deep Nostalgia 展示动图|The Verge


无论是Avatarify开发的“蚂蚁呀嘿”,还是MyHeritage上线的Deep Nostalgia,都属于Deepfake(深伪技术)。Deepfake顾名思义,是通过AI深度学习技术伪造影像、声音。伪造视频影像技术最早出现于 2016 年,Deepfake一词却出现在 2017 年,此后,每隔一段时间都有Deepfake相关的应用或视频在网络上风靡,热度下降后又以其他方式改头换面、卷土重来。


那些年出现过的深度“假货”


开篇提到的Avatarify就连续两年占据 Deepfake 界头版。


2020 年年初,疫情期间,Avatarify的程序员Ali Aliev在YouTube平台上传了几个伪造视频。Ali Aliev在与同事Zoom视频会议时,将自己的脸换成了特斯拉CEO埃隆·马斯克,马斯克的面部微表情、说话自然,看不出任何破绽,让同事们大感意外,误以为跟科技大佬讨论了一个价值两亿美元的大项目。


与其他Deepfake项目不同,Avatarify不需要预先录制视频,可根据视频流实时工作。随后,Avatarify在Github上开源,迅速升至每日趋势列表顶部。


今年,Avatarify凭借“蚂蚁呀嘿”特效视频走红后,Avatarify超越微信、抖音、拼多多,迅速登至苹果应用商店免费下载榜榜首,还带动了剪映APP的大量下载。


国外有Avatarify,国内有ZAO。


2019 年 8 月底,ZAO在国内上线,短短两天时间,就成为苹果应用商店最受欢迎APP之一。ZAO的宣传语简洁明了,“仅需一张照片”“出演天下好戏”“添加好友多人合演”。ZAO的出现满足了人们猎奇、参演大片的心愿。


除了说得出名字的科技公司的产品应用和功能,网络上还充斥着大量来自业余爱好者、IT 程序员等制作的各类深伪视频。


比如,将政客、名人的脸偷梁换柱,嫁接到其他视频上,美国前总统奥巴马、美国众议院议长南希·佩洛西、Facebook创始人马克•扎克伯格、知名女星盖尔·加朵都中过招。社交、视频网站还出现深伪帐号,2019 年,LinkedIn领英出现疑似女间谍的假帐号Katie Jones,2021 年初,TikTok上出现好莱坞男星汤姆·克鲁斯的深伪视频帐号。


深伪视频、图片通常利用生成对抗网络(GAN)制作,生成对抗网络涉及两种相互竞争的神经网络,一个机器学习(ML)模型负责训练数据集,并创建深伪视频、图片,另外一个模型负责检测伪造品,直至无法识别出伪造品。两个模型互相推进工作。


尤其是,Github等社区平台上开放大量开源的Deepfake技术代码,使得制作假视频的门槛大大降低,即便不是专业人士也可轻松制作出伪造影片。


不过,尽管生成对抗网络在不断进步,伪造品真假难辨,但一些视频、图片也总能发现破绽。


比如,出现面部晃动、非自然扭曲、平移;周围固定物体异动;光线、阴影异常;面部特征细节如斑、痣缺失。2019 年,国外出现每刷新一次生成一张假脸的网站,该生成对抗网络技术来自英伟达。虽然生成的人脸细节完美,但仔细辨别会发现,人物背景边缘模糊,经常会出现面部器官、背景缺陷。


技术难点之外,科技公司鲜有成功的Deepfake商业模式,此外,因涉及人脸重要信息,科技公司还面临诸多风险。


人脸是一门好生意?


Avatarify这类正规渠道的APP一般通过免费增值服务模式收费,Avatarify下载、首周使用免费,额外服务如去除视频、GIF水印需要付费,一周的使用价格18元人民币,包年价格253元。


MyHeritage则通过免费的怀旧主题病毒式营销,推动用户注册其他付费业务,MyHeritage主营业务为DNA测试。当然,获益的可持续性与应用能否持续火爆相关,不幸的是大部分Deepfake应用往往只能火一阵时间。


其实,Deepfake产业更多存在于黑灰色地带。


过去几年,网络犯罪分子采用勒索软件敛财,现在他们盯上了Deepfake技术。通过伪造视频、企业高层语音,要求企业财务人员资金转移,或者伪造企业团队核心负责人照片,进行犯罪活动。


信息安全公司趋势科技调查发现,暗网中存在很多深伪视频和图片示例,网络犯罪分子在暗网上以超低价格出售Deepfake技术,深伪视频5美元起步,伪造静态图片每张2.5美元,Deepfake软件25美元起步。


加拿大媒体VICE记者Evan Jacoby(埃文·雅各比)曾在网络上定制Deepfake成人影像,仅花费30美元。埃文还发现,Deepfake软件通常需要数百张照片训练模型,但单个视频可以绕开这种局限性,一个长达15秒的Instagram视频可以将视频主角的脸部渲染到另一个视频上


理论上讲,只要用户在社交媒体上发布了脸部视频,有人保存了视频,那么,这个用户的脸就有可能出现在各种各样的视频中。


Deepfake技术带来的用户隐私数据安全问题成为不能忽视的命题。


ZAO因用户隐私协议中声称可拥有APP上所有生成图片所有权,可在未经用户允许情况下,将图片分享给第三方企业,引起极大争议,上线三天匆匆下架。


尽管,Avatarify、MyHeritage声明用户数据不会上传至云端,也不会提供给任何第三方组织。但拥有大量用户生物数据的科技公司极容易被黑客、黑产盯上。2018年,MyHeritage遭遇大面积用户数据泄露,不久后,有人发现暗网中正出售泄露的用户隐私数据。


不仅仅是Deepfake技术,只要涉及人脸数据使用问题,科技公司需要慎之又慎。


2015 年,Facebook因未征得用户同意擅自收集和存储用户人脸数据,被三名美国伊利诺伊州公民以违反《生物识别信息隐私法》告上法庭,随后百万用户对Facebook提起集体诉讼。经过长达六年的马拉松式诉讼,最终裁决Facebook赔偿用户6.5亿美元,每个用户可获得约340美元赔偿。


AI技术终究是中立的,Deepfake技术可以复活影星、名画、逝去的亲人,Deepfake也可出现在不见光的暗网中,从事各类违法犯罪活动。而对于科技公司而言,游走在商业利益和用户隐私安全、法律法规之间,绝非易事。人脸数据归属权应该是用户,不论这些数据能否变现,使用数据时,用户需拥有充分的知情权。


本文来自微信公众号:极客公园(ID:geekpark),作者:赵晨希

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定