你ZAO吗？一夜“成”明星不再是梦

你是ZAO吗？

一夜成名不再是梦想。

从上周末开始，一款名为“ZAO”的AI换脸应用突然火遍全网。 用这款应用制作的换脸视频在微博、微信朋友圈随处可见。

只需一张照片，你就能拥有任何你想要的人！ ▼

ZAO在第一个公开版本发布后不到24小时就迅速走红。 不仅在社交媒体上爆红，还在苹果iOS免费榜上排名第二，跻身微博十大热门话题。 这是一个“现象”。

而这刷屏的背后，其实与我们每个人的生活息息相关。

Momo 制造，色情视频中使用的技术

ZAO最大的噱头就是与明星“换脸”，嵌入短视频中，可供下载传播，供社交娱乐。

“ZAO”由著名在线交友软件“陌陌”团队创建，两位实际控股股东均为陌陌高管。

值得一提的是，ZAO的开发商显示为“长沙深融网络科技有限公司”，陌陌创始人兼CEO唐岩本人就是湖南人。

然而事实上，AI换脸视频并不是什么新鲜事。

换脸技术大约是七八年前的事了。 比如电影《速度与激情7》中，保罗·沃克就是利用AI技术合成的，耗资数千万美元。

然而，民间换脸软件由于真实性较差，反响平平。 直到2017年12月，一位名叫大牛的码农在网站上上传了一段“明星AV”视频。

当时，《》用盖尔·加朵等好莱坞明星取代了情色电影中的女主角。 这也是全世界第一次公开见证AI换脸的威力。

随后他还制作了一系列“明星AV”复合视频。

但问题很快就出现了。

比如，让希拉里和特朗普成为情侣，让他们一起做鬼脸，让他们看起来像色情电影里的样子，有很多种玩法。

人的智慧是无穷的。 只要工具出来了，就一定会想出花样，而且早期的花样一定不够高贵，而且是低俗色情的。

由于规模过大，论坛迫于压力，被迫封锁了“”的账号。 然而，这一禁令却让“”直接开源了其AI换脸项目的代码——完全免费向公众开放。

代码开源后，AI换脸技术就像普罗米修斯偷走的火种一样传遍全球。

一时间人人都成了AI换脸专家。

▲景甜换脸AV

任何对技术稍有了解的人都可以使用他们的技术来分层贝壳以获得乐趣。 ZAO也是众多衍生应用之一。

ZAO使用技术，但其相关应用因道德、伦理和隐私问题而在国外被禁止；

但在我国，在这个连色情网站都不敢触碰的AI禁区，ZAO却可以大张旗鼓地进行商业化利用。

不知道玩ZAO的用户是否知道，当你玩这个APP时，你的面部数据已经上传到企业服务器，可以卖钱了。

丑陋的用户协议

所以，这个APP看似有一个有趣的皮肤，但它的灵魂并不好看。

用户协议中隐藏着我们通常不会再看的巨大技巧，以及难以接受的法律风险。

为什么这么说，首先我们来看看ZAO的用户协议。

《用户协议》第六条第一款规定如下：

这段密密麻麻的段落是什么意思呢？

这意味着，当您选择使用此应用程序时，根据协议，您除了可以免费使用和修改您的肖像外，还可以将其授权给您想要授权的任何第三方，并将其作为信息出售。

所以当有一天你在ZAO或者其他相关平台上发现你的脸被随意改变了，不再属于你了，你想起诉ZAO，对不起，它就会拿出这个协议来堵住你的嘴，告诉你你自己已经同意了。

其次，我们看一下关于侵权的规定。 第六条第二款明确规定：

这是什么意思？

例如，如果您将杨幂的脸换成自己的脸，您不仅要保证您永久且不可撤销地将您的肖像提供给ZAO免费使用，而且还要保证杨幂同意ZAO及其关联公司使用她的肖像。公司...

但问题来了，你不认识杨幂，怎么能确定呢？ 这不是很有趣吗？

而它这么写，说白了，就是因为它没有钱去获得明星的授权。 对于以后的侵权问题，可以通过本协议将责任转嫁给您。

本案中，协议第七条第七款规定：

这个意思是前一个意思的延续。 如果杨幂起诉ZAO，声称自己的肖像权被ZAO平台滥用，那么ZAO可能会说这不是我的错，技术是无辜的。 如果要怪的话，那就是用户变脸了，而且，即使ZAO承担了平台责任，仍然可以起诉特定用户要求赔偿。

对于这样的用户协议，我只能说外观太丑了。 他们把屁股擦得很干净，把侵权的苦果全部转嫁给了用户。

那么明星合成网站，现在你明白了吗？

今天你在网上改头换面，感觉很幸福，但事实上，你却成了最被鄙视的侵权者。

更糟糕的是，你的脸不再只属于你自己，它也属于ZAO以及它想要授权的所有人。

更让我害怕的是，截至我发这篇文章时，不知道有多少用户同意了这个丑陋的协议，失去了肖像的自主权。

而我选择给大家分析一下用户协议，只是希望大家能够将这篇文章转发给每一个对这个app感兴趣的人。

因为他们很可能使用了该应用程序并在不知道原因的情况下同意了该协议。

你可能认为你只是点击了用户协议上的一个小勾号，但当你点击确定的那一刻，你已经无形中失去了很多属于你的东西。

而这些东西，其实就是你极其珍惜的“面子”。

人工智能技术的“潘多拉魔盒”

除了利用协议来转移肖像权风险之外，还有一点值得探讨：

技术真的是无辜和中立的吗？

看来，至少很多技术开发者自己是这么认为的。

快播王欣在法庭上所说的“技术是无辜的”至今还萦绕在我的耳边。 谷歌的态度更具代表性和普遍性：它非常重视道德责任，但如果对新技术进行严格限制，可能会推迟某些技术的发展。 对人类有益的用途。

而开源则打开了“人脸识别技术”的潘多拉魔盒。

这种无缝换脸的技术，可以在黑色产业中发挥出无数的花样。

例如，在诈骗中，该技术被用来将老人和儿童的面孔无缝地融入到视频中。 无论是生病要钱、绑架、转账，都很容易欺骗老人。

例如，在勒索中，该技术被用来将受害者的脸部添加到一些色情视频中，然后威胁不付钱就群发。 其实很多高利贷者都喜欢这样玩，只是以前的P图不够震撼。

在这种情况下明星合成网站，如果开发者说他们对技术道德不负责，只是为了赚钱； 如果用户说他们不想检查该技术的黑暗效果，那么他们只是为了好玩。

那么我们指望谁来促进技术、法规和使用要求的健康结合呢？

2019年6月13日，美国众议院情报委员会举行人工智能听证会，公开讨论技术给国家、社会和个人带来的风险以及防范和应对措施。

这是美国众议院首次专门举行听证会讨论 和其他类型的人工智能合成技术。

未来，AI 会发展成什么样子，又会给我们的生活带来哪些影响？ 人工智能是普罗米修斯的火花还是潘多拉魔盒？