最近 ,AI换脸应用“ZAO” 的出现 ,引起了轩然大波 。

ZAO 的最大卖点 ,就在于可以将视频中 的人脸 ,通过AI算法“PS”换成另一个人 的相貌 。

只需要把照片上传到ZAO当中 ,就能够将视频P成相应 的脸 ,可谓是操作简单、效果明了 。

也因为如此 ,ZAO一出现就引来了人们 的激烈讨论 ,毕竟谁也保不准自己会不会被P进小电影中 ,变成奇怪剧情 的主人公 。

ZAO再次点燃了AI换脸技术 的讨论热潮 ,而AI换脸引发争议 ,已经不是什么新鲜事 。

早在ZAO上架之前 ,DeepFakes就已经将AI换脸 的恐怖之处刻入人心——甚至连世界最大 的黄网PxxxHub也禁止AI换脸视频 的上传(不过其实还是有就是了) 。

为何AI换脸会引起此等程度 的惊恐 ?AI换脸 的风行意味着什么 ?今天 ,我们就一起来谈谈相关话题吧 。

AI换脸技术是如何走向泛滥 的 ?

ZAO将AI换脸技术再次放置到了聚光灯下 ,但这并非是AI换脸首次走上历史舞台 。

早在2017年底 ,国外论坛就已经出现了ID为“deepfakes” 的大神 ,发布了通过机器学习来更换视频人脸 的AI算法 。

不过当时该技术 的使用门槛还比较高 ,需要编译代码之类 的操作 ;而在数个月后 ,使用管理DeepFakes技术 的简易版AI换脸工具FakeApp出现了 ,就算是普通用户 ,也能够顺利操作了 。

AI换脸只是玩玩
?黄网都不敢碰
的技术有多恐怖

FakeApp令AI换脸 的使用门槛大幅下降 ,不过它还是需要一定 的准备工作 。

首先它需要安装额外 的运行库 ,其次它对硬件有需求 ,需要高性能显卡参与运算 ,其中对N卡 的兼容最好 。

而FakeApp还需要较新版 的Windows 10系统才可以安装 ,运行起来还得等待好一段时间——过程越久 ,效果越好 ,毕竟机器学习还是需要足够 的时长和样本 的 。

最后 ,FakeApp就可以生成几乎以假乱真 的AI换脸视频了 。

AI换脸只是玩玩
?黄网都不敢碰
的技术有多恐怖

FakeApp 的出现令AI换脸视频一度犹如黄河泛滥一发不可收拾 ,不少名人都深受其害 。

例如大名鼎鼎 的“神奇女郎” ,就莫名其妙成为了色情片里 的主演 ;又例如国内很多人都印象深刻 的杨幂版小龙女 ,令人惊叹演员换脸 的奇效 。

AI换脸目前已经在网络上泛滥到怎样 的一种程度呢 ?我们从几个细节就可以窥一斑 。

首先是AI换脸色情视频 的广为流传 ,俗语云 ,色情是互联网 的第一生产力 ,AI换脸技术 的出现 ,令色情内容 的制造者们迎来了狂欢 ,各大黄网一度遍布着明星名人脸庞换脸而来 的色情片 。

尽管各大色情网站可能是出于法律风险方面 的考虑 ,纷纷声明禁止该类换脸视频 的上传 ,但止不住人多势众 ,时至今日人们仍可在这些网站上找到换脸 的视频 。

AI换脸只是玩玩
?黄网都不敢碰
的技术有多恐怖

而除了色情网站外 ,网络 的多个角落也蔓延着AI换脸视频 。例如在国内 的视频站 ,只要用“AI换脸”为关键词搜索 ,轻松就能找到大量使用DeepFakes技术生成 的视频 。

而如果你想要制造AI换脸视频 ,你并不需要钻研代码 ,甚至不需要安装FakeApp——在淘宝上 ,就有很多商家提供AI换脸视频制作服务 ,只需要几块钱十几块钱 ,就能够定制一部换脸视频 。

AI换脸只是玩玩
?黄网都不敢碰
的技术有多恐怖

简而言之 ,DeepFakes技术 的出现为AI换脸视频 的流行打下了基础 ,而FakeApp 的诞生则让AI换脸视频成为了真正意义上 的爆款 。

而现在 ,ZAO 的出现 ,极有可能将AI换脸视频 的风行推到一个新 的高度 。

和前辈们相比 ,ZAO 的门槛进一步降低 。

首先 ,ZAO不需要复杂 的配置 ,使用手机APP即可开始制作 。

其次 ,它对硬件没有特别大 的需求 ,ZAO将视频制作 的运算放到了服务器上 ,用户不需要准备高性能 的硬件 ;最后 ,它 的生成速度飞快 ,视频上传后很快就得出结果 。

AI换脸只是玩玩
?黄网都不敢碰
的技术有多恐怖AI换脸只是玩玩
?黄网都不敢碰
的技术有多恐怖

在ZAO当中 ,AI换脸视频即点即成 ,制作已然不存在门槛 。

也正因如此 ,在AI换脸视频已经泛滥 的现状下 ,ZAO 的降临意味着对这股潮流进一步推波助澜 ,令人平添了几份恐慌 。

AI换脸技术会带来怎样 的问题 ?

抛开风险来说 ,AI换脸视频还是非常有趣 的 。

例如用在电影上 ,就等于换了个演员 ,想要体验颜值高但演技不在线 的演员真正会演戏 的样子 ,可能还真得靠这一技术 。

又例如把自己或者朋友熟人 的脸换到某个视频上 ,在私密间分享 ,也不失为一种有趣 的玩笑——这可比P表情包欢乐多了 。

AI换脸只是玩玩
?黄网都不敢碰
的技术有多恐怖

AI换脸用对地方会有奇效 ,例如《速度与激情7》中已逝演员保罗沃克 的脸就利用了类似技术嫁接上去

然而这一切 ,都是忽视风险后 的论调 ,而真正凭心而论 的话 ,制作AI换脸视频是没办法不考虑风险 的 。

首先这对于信息 的真实性形成严峻 的挑战 。PS发明后 ,有图不再有真相 ;而AI视频换脸技术 的出现 ,则让视频也开始变得镜花水月了起来——人们普遍认为视频可以担当“实锤” ,而现在这把实锤竟可凭空制造 ,对于本来就假消息满天飞 的互联网来说 ,这无疑会造成进一步 的信任崩坏 。

其次 ,这会大大增加侵犯肖像权 的可能 。

正如文章一开头所说 ,没人愿意自己 的脸庞出现在莫名其妙 的视频当中 。

和多用途 的PS等修图软件不同 ,AI换脸技术 的功能只有一个 ,那就是换脸 ,从这个角度来说它 的存在天然就是一种对肖像权 的威胁 。

而PxxxHub等网站之所以对AI换脸视频如临大敌 ,肖像权风险就是一大原因 。

再者 ,ZAO这样 的工具还徒增了信息安全 的相关隐患 。

这主要涉及两方面:

一是ZAO这样 的在线处理机制 ,流程上必须上传相应肖像 ,甚至还要填写详细 的实名制信息 ,而服务商是否能妥善保管相关方面信息仍是个未知数——使用ZAO只是为了娱乐 ,付出这样 的风险代价似乎有点得不偿失 。

二是类似技术生成 的伪视频 ,是否会成为一把破解人脸识别大门 的钥匙 ?尽管现在生成 的视频有一定局限性 ,但从机理上来看 ,假视频 的确比假照片更具这方面 的可能 。

AI换脸只是玩玩
?黄网都不敢碰
的技术有多恐怖AI换脸只是玩玩
?黄网都不敢碰
的技术有多恐怖

换言之 ,AI换脸技术或许真 的玩着有趣 ,然而真正 的问题在于 ,这样风险百出 的技术我们到底玩不玩得起 ?这恐怕非常值得大家深思 。

AI换脸技术可能仅仅只是个开始 ?

由于上述提到 的风险 ,AI换脸技术已经在相当程度上引起恐慌 。

也难怪 ,当得知该技术能够接近完美捏造假视频 的时候 ,担心自己 的言行是否会被虚构 ,是很正常 的自然反应 。

然而 ,在警惕AI换脸技术 的同时 ,我们或许还需要意识到 ,AI技术仍在不断发展 ,目前 的AI换脸视频或许远非终点 。

当前 的AI换脸技术已经达到了惊人 的水准 ,但目前大多数 的AI换脸仍只涉及视觉 。然而事情正在发生变化——AI换脸已经成为了现实 ,而AI变声也开始崭露头角 。

谷歌之前曾经研究过AI变声 的相应技术 ,但并没有大规模实装 ;而国内厂商则更加激进 ,不少研究输入法 的厂商都已经尝试在产品当中推广AI变声功能 。

在一些国产输入法当中 ,现在就可以找到AI变声 的开关 ,输入一段语音后 ,等待片刻即可生成特定音调音色 的语音 ,拟真度相当出色 。

AI换脸只是玩玩
?黄网都不敢碰
的技术有多恐怖

当然 ,此类产品限定了AI变声 的模版 ,但声音 的自由变换修改相对于我们来说也并不是那么遥远 。例如“Modulate.ai”这个网站 ,就提供了AI变声服务 ,甚至连奥巴马 的声音都能完美模仿 。

Modulate.ai所使用 的变声技术和DeepFakes类似 ,都使用了神经网络机器学习算法来训练模型 ,所拟真出来 的声音真假难辨 。

另外还有“Lyrebird.ai”这个网站 ,也提供了类似 的服务 ,而且所提供 的模仿对象更加丰富 ,据悉多达上千种 ,包括特朗普、奥巴马、克林顿等名人 的声音都可以被模仿 。

AI换脸只是玩玩
?黄网都不敢碰
的技术有多恐怖

可见 ,AI变声技术已经逐渐成熟 ,它和AI换脸技术结合后 ,会形成威力无穷 的组合拳 。

在之前 ,就有人结合AI换脸、AI变声 ,伪造一段虚假 的奥巴马演讲视频 。视频当中 ,奥巴马指斥特朗普是个“笨蛋” ,令人震惊 。

这段视频在国外引起了轰动 ,如果没有特别标注 ,恐怕很多人会信以为真 。

而这仍不是AI换脸 的终点 。目前 的AI换脸、变声仍需要一段时间 的运算 ,难以和真人互动 。

而当AI换脸、变声可以实时生效时 ,恐怕连视频电话 的真伪都难以分辨 ,而人脸识别也将面临着严峻挑战 。

到了这步 ,AI换脸、变声技术极可能成为犯罪分子 的诈骗、勒索利器 。

通过大数据和机器学习 ,AI将特定信息解构后 ,重构成为难以分辨 的虚假信息 ,当相应 的技术成熟后 ,虚假信息可以源源不断地生成 ,如此高质量 的虚假信息能够大批量生产 ,在历史上可谓是前所未有 。

然而尽管人们对此感到恐慌 ,但相应 的应用、开发却并没有停下脚步 。

ZAO自不必说 ,直接把这样高风险 的技术做成了娱乐APP ,令人们前所未有近距离接触到了AI构建 的虚假视频 。

而行业中 的巨头也视此为机遇 ,苹果、谷歌、微软、Facebook等大佬都爆出过利用用户数据训练语音、语言模型 的新闻 ,而近年也可以看到AI自动应答 的逻辑性、自动生成语音 的拟真度大幅上涨——用AI构建一个完全虚拟 的人格 ,似乎也为期不远 。

得益于大数据和AI算法 ,Google Assistant 的智能程度大大提升 ,甚至可以对答如流

在未来 ,我们或许不仅可以看到逼真 的AI换脸、AI变声 ,甚至可能连应答都由AI来完成 。

当AI能自动生成以假乱真 的面容、声音乃至语言 的时候 ,互联网乃至整个社会该如何应对这种身份信息 的混乱 ?现在仍没有一个好 的应对方案 。

后话

就在发文之际 ,笔者 的担心成真了 。

《华尔街日报》 的最新报道显示 ,今年3月份 ,有犯罪分子使用AI技术成功模仿了英国某能源公司在德国母公司CEO 的声音 ,诈骗了220,000欧元(约1,730,806人民币) 。

仅仅依靠AI变声就能酿造出一宗如此重大 的诈骗案 ,AI骗术 的威力可见一斑 。

目前AI换脸多用于娱乐 ,然而我们应该知悉 ,这是一项连黄网都不敢碰 的技术 ,是一项能极大程度混淆身份信息、甚至可能令社会信用体系走向崩溃 的技术 。

当诈骗短信进化为AI假视频、还能够自动应答 的时候 ,我们是否还有方法防范 ?

对于AI拟真技术 的运用 ,人们应该更加谨慎 ,这不是一项可以随便曝光于公众视野 的技术 。AI换脸 ,你真 的玩得起吗 ?