AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖

AIarvr 550 2019-10-04

1AI换脸技术是如何走向泛滥的?

[PConline杂谈]最近,AI换脸应用“ZAO”的出现,引起了轩然大波。ZAO的最大卖点,就在于可以将视频中的人脸,通过AI算法“PS”换成另一个人的相貌。只需要把照片上传到ZAO当中,就能够将视频P成相应的脸,可谓是操作简单、效果明了。也因为如此,ZAO一出现就引来了人们的激烈讨论,毕竟谁也保不准自己会不会被P进小电影中,变成奇怪剧情的主人公。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第1张

ZAO再次点燃了AI换脸技术的讨论热潮,而AI换脸引发争议,已经不是什么新鲜事。早在ZAO上架之前,DeepFakes就已经将AI换脸的恐怖之处刻入人心——甚至连世界最大的黄网PxxxHub,也禁止AI换脸视频的上传(不过其实还是有就是了)。为何AI换脸会引起此等程度的惊恐?AI换脸的风行意味着什么?今天,我们就一起来谈谈相关话题吧。

AI换脸技术是如何走向泛滥的?

ZAO将AI换脸技术再次放置到了聚光灯下,但这并非是AI换脸首次走上历史舞台。早在2017年底,国外论坛就已经出现了ID为“deepfakes”的大神,发布了通过机器学习来更换视频人脸的AI算法。不过当时该技术的使用门槛还比较高,需要编译代码之类的操作;而在数个月后,使用管理DeepFakes技术的简易版AI换脸工具FakeApp出现了,就算是普通用户,也能够顺利操作了。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第2张

AI换脸的算法已经公开,开源网站中存在大量基于DeepFakes的项目

FakeApp令AI换脸的使用门槛大幅下降,不过它还是需要一定的准备工作。首先它需要安装额外的运行库,其次它对硬件有需求,需要高性能显卡参与运算,其中对N卡的兼容最好。而FakeApp还需要较新版的Windows 10系统才可以安装,运行起来还得等待好一段时间——过程越久,效果越好,毕竟机器学习还是需要足够的时长和样本的。最后,FakeApp就可以生成几乎以假乱真的AI换脸视频了。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第3张

FakeApp,经过一段时间的机器学习即可换脸,是当前最流行的AI换脸工具

FakeApp的出现令AI换脸视频一度犹如黄河泛滥一发不可收拾,不少名人都深受其害。例如大名鼎鼎的“神奇女郎”,就莫名其妙成为了色情片里的主演;又例如国内很多人都印象深刻的杨幂版小龙女,令人惊叹演员换脸的奇效。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第4张

比如无辜的神奇女侠惨遭移花接木(图片来源网络)

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第5张

因AI换脸“出演”《射雕英雄传》的杨幂(图片来源网络)

AI换脸目前已经在网络上泛滥到怎样的一种程度呢?我们从几个细节就可以窥一斑。首先是AI换脸色情视频的广为流传,俗语云,色情是互联网的第一生产力,AI换脸技术的出现,令色情内容的制造者们迎来了狂欢,各大黄网一度遍布着明星名人脸庞换脸而来的色情片。尽管各大色情网站可能是出于法律风险方面的考虑,纷纷声明禁止该类换脸视频的上传,但止不住人多势众,时至今日人们仍可在这些网站上找到换脸的视频。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第6张

无论是色情网站还是普通视频网站,都可以找到大量AI换脸视频

而除了色情网站外,网络的多个角落也蔓延着AI换脸视频。例如在国内的视频站,只要用“AI换脸”为关键词搜索,轻松就能找到大量使用DeepFakes技术生成的视频。而如果你想要制造AI换脸视频,你并不需要钻研代码,甚至不需要安装FakeApp——在淘宝上,就有很多商家提供AI换脸视频制作服务,只需要几块钱十几块钱,就能够定制一部换脸视频。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第7张

淘宝上就能够购买到AI换脸服务

简而言之,DeepFakes技术的出现为AI换脸视频的流行打下了基础,而FakeApp的诞生则让AI换脸视频成为了真正意义上的爆款。而现在,ZAO的出现,极有可能将AI换脸视频的风行推到一个新的高度。

和前辈们相比,ZAO的门槛进一步降低。首先,ZAO不需要复杂的配置,使用手机APP即可开始制作;其次,它对硬件没有特别大的需求,ZAO将视频制作的运算放到了服务器上,用户不需要准备高性能的硬件;最后,它的生成速度飞快,视频上传后很快就得出结果。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第8张AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第9张

ZAO让AI换脸变得前所未有的方便

在ZAO当中,AI换脸视频即点即成,制作已然不存在门槛。也正因如此,在AI换脸视频已经泛滥的现状下,ZAO的降临意味着对这股潮流进一步推波助澜,令人平添了几份恐慌。

2AI换脸技术会带来怎样的问题?

AI换脸技术会带来怎样的问题?

抛开风险来说,AI换脸视频还是非常有趣的。例如用在电影上,就等于换了个演员,想要体验颜值高但演技不在线的演员真正会演戏的样子,可能还真得靠这一技术;又例如把自己或者朋友熟人的脸换到某个视频上,在私密间分享,也不失为一种有趣的玩笑——这可比P表情包欢乐多了。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第10张

AI换脸用对地方会有奇效,例如《速度与激情7》中已逝演员保罗沃克的脸就利用了类似技术嫁接上去

然而这一切,都是忽视风险后的论调,而真正凭心而论的话,制作AI换脸视频是没办法不考虑风险的。

首先这对于信息的真实性形成严峻的挑战。PS发明后,有图不再有真相;而AI视频换脸技术的出现,则让视频也开始变得镜花水月了起来——人们普遍认为视频可以担当“实锤”,而现在这把实锤竟可凭空制造,对于本来就假消息满天飞的互联网来说,这无疑会造成进一步的信任崩坏。

其次,这会大大增加侵犯肖像权的可能。正如文章一开头所说,没人愿意自己的脸庞出现在莫名其妙的视频当中。和多用途的PS等修图软件不同,AI换脸技术的功能只有一个,那就是换脸,从这个角度来说它的存在天然就是一种对肖像权的威胁。而PxxxHub等网站之所以对AI换脸视频如临大敌,肖像权风险就是一大原因。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第11张

出于对肖像权的保护,连色情网站的搜索功能也屏蔽了DeepFakes

再者,ZAO这样的工具还徒增了信息安全的相关隐患。这主要涉及两方面。一是ZAO这样的在线处理机制,流程上必须上传相应肖像,甚至还要填写详细的实名制信息,而服务商是否能妥善保管相关方面信息仍是个未知数——使用ZAO只是为了娱乐,付出这样的风险代价似乎有点得不偿失;二是类似技术生成的伪视频,是否会成为一把破解人脸识别大门的钥匙?尽管现在生成的视频有一定局限性,但从机理上来看,假视频的确比假照片更具这方面的可能。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第12张AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第13张

ZAO的旧版用户协议(左)和新版(右),可见旧版协议中存在很多侵犯肖像权的霸王条款

换言之,AI换脸技术或许真的玩着有趣,然而真正的问题在于,这样风险百出的技术我们到底玩不玩得起?这恐怕非常值得大家深思。

3AI换脸技术可能仅仅只是个开始?

AI换脸技术可能仅仅只是个开始?

由于上述提到的风险,AI换脸技术已经在相当程度上引起恐慌。也难怪,当得知该技术能够接近完美捏造假视频的时候,担心自己的言行是否会被虚构,是很正常的自然反应。然而,在警惕AI换脸技术的同时,我们或许还需要意识到,AI技术仍在不断发展,目前的AI换脸视频或许远非终点。

当前的AI换脸技术已经达到了惊人的水准,但目前大多数的AI换脸仍只涉及视觉。然而事情正在发生变化——AI换脸已经成为了现实,而AI变声也开始崭露头角。谷歌之前曾经研究过AI变声的相应技术,但并没有大规模实装;而国内厂商则更加激进,不少研究输入法的厂商都已经尝试在产品当中推广AI变声功能。在一些国产输入法当中,现在就可以找到AI变声的开关,输入一段语音后,等待片刻即可生成特定音调音色的语音,拟真度相当出色。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第14张

某些输入法已经推出AI变声功能

当然,此类产品限定了AI变声的模版,但声音的自由变换修改相对于我们来说也并不是那么遥远。例如“Modulate.ai”这个网站,就提供了AI变声服务,甚至连奥巴马的声音都能完美模仿。

Modulate.ai所使用的变声技术和DeepFakes类似,都使用了神经网络机器学习算法来训练模型,所拟真出来的声音真假难辨。另外还有“Lyrebird.ai”这个网站,也提供了类似的服务,而且所提供的模仿对象更加丰富,据悉多达上千种,包括特朗普、奥巴马、克林顿等名人的声音都可以被模仿。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第15张

在线即可完成AI变声

可见,AI变声技术已经逐渐成熟,它和AI换脸技术结合后,会形成威力无穷的组合拳。在之前,就有人结合AI换脸、AI变声,伪造一段虚假的奥巴马演讲视频。视频当中,奥巴马指斥特朗普是个“笨蛋”,令人震惊。这段视频在国外引起了轰动,如果没有特别标注,恐怕很多人会信以为真。

AI换脸只是玩玩?黄网都不敢碰的技术有多恐怖 AI人工智能 第16张

完全伪造的奥巴马演讲视频,无论是脸还是声音都是假的,但却能以假乱真

而这仍不是AI换脸的终点。目前的AI换脸、变声仍需要一段时间的运算,难以和真人互动。而当AI换脸、变声可以实时生效时,恐怕连视频电话的真伪都难以分辨,而人脸识别也将面临着严峻挑战。到了这步,AI换脸、变声技术极可能成为犯罪分子的诈骗、勒索利器。

通过大数据和机器学习,AI将特定信息解构后,重构成为难以分辨的虚假信息,当相应的技术成熟后,虚假信息可以源源不断地生成,如此高质量的虚假信息能够大批量生产,在历史上可谓是前所未有。

然而尽管人们对此感到恐慌,但相应的应用、开发却并没有停下脚步。ZAO自不必说,直接把这样高风险的技术做成了娱乐APP,令人们前所未有近距离接触到了AI构建的虚假视频;而行业中的巨头也视此为机遇,苹果、谷歌、微软、Facebook等大佬都爆出过利用用户数据训练语音、语言模型的新闻,而近年也可以看到AI自动应答的逻辑性、自动生成语音的拟真度大幅上涨——用AI构建一个完全虚拟的人格,似乎也为期不远。

得益于大数据和AI算法,Google Assistant的智能程度大大提升,甚至可以对答如流

在未来,我们或许不仅可以看到逼真的AI换脸、AI变声,甚至可能连应答都由AI来完成。当AI能自动生成以假乱真的面容、声音乃至语言的时候,互联网乃至整个社会该如何应对这种身份信息的混乱?现在仍没有一个好的应对方案。

后话

就在发文之际,笔者的担心成真了。《华尔街日报》的最新报道显示,今年3月份,有犯罪分子使用AI技术成功模仿了英国某能源公司在德国母公司CEO的声音,诈骗了220,000欧元(约1,730,806人民币)。仅仅依靠AI变声就能酿造出一宗如此重大的诈骗案,AI骗术的威力可见一斑。

目前AI换脸多用于娱乐,然而我们应该知悉,这是一项连黄网都不敢碰的技术,是一项能极大程度混淆身份信息、甚至可能令社会信用体系走向崩溃的技术。当诈骗短信进化为AI假视频、还能够自动应答的时候,我们是否还有方法防范?对于AI拟真技术的运用,人们应该更加谨慎,这不是一项可以随便曝光于公众视野的技术。AI换脸,你真的玩得起吗?


上一篇:AI 初学者入门指南:深度学习的五级分类
下一篇:AI想分析你的情绪,最可靠的是通过声音…
相关文章

 发表评论

暂时没有评论,来抢沙发吧~

返回顶部小火箭