艾玛沃特森合成 AI换脸火了！你离成为色情片主角，只差一个朋友圈头像，不少知名女星已中招

在APP商城上，ZAO的开发商是长沙深集成网络技术有限公司..

其实AI变脸视频也不是什么新鲜事。早在2017年12月，一位名叫“deepfakes”的外国Reddit论坛用户就在网上首次发布了自己的AI变脸视频。它可以把照片和视频中的人脸替换成任何你想替换的人脸，效果非常逼真，有的肉眼甚至分不清真假。

目前AI变脸技术已经蓬勃爆发，被恶意使用一次又一次。在国内外，用户使用这项技术来欺骗名人的脸，甚至生成假视频——例如，今年6月，Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)的一段被篡改的视频浮出水面，他在视频中质疑该公司用户数据的隐私。

▲扎克伯格的视频被篡改。在这些事件之后，扎克伯格上个月在阿斯彭创意节上告诉观众，Facebook正在考虑制定政策来处理深度假货。

更何况，目前AI变脸黑产品在国内已经形成了完整的产业链，从下游的成品色情视频，中游的定制视频，到上游的软件和教程，甚至有卖家在整个产业链中提供产品和售后服务。据一些卖家说，定制视频现在要排队了，因为前面也有很多人有这个需求，说明AI已经发展到一定程度。关于目前炙手可热的ZAO软件有两个问题:1。如何保证视频资料的版权？视频资料的版权是一个关键点。该软件的版权声明称:“ZAO产品上的短视频和表情，除了ZAO与版权合作伙伴合作的特别声明外，全部来自ZAO用户的自发上传。ZAO不享有这些材料的商业版权。”有特殊说法的资料很少，言下之意是资料都是用户传递的，有摔锅之嫌。

但奇怪的是，在上传资料的菜单下，显示上传资料需要通过权限认证，但认证未打开，灰色按钮显示“暂停申请”。这些用户上传的现有资料来自哪里？2.如何保护用户隐私不随意变脸？虽然APP一开始需要在体内验证，软件的长隐私保护协议说明了可能对用户隐私产生影响的地方，但用户在获得他人照片后是否能完全避免恶搞，还是值得怀疑的。

不久，赵无极用户协议中的近似“霸王条款”在网上引发了巨大争议

简而言之，一旦你同意这个用户条款，Zao将拥有上传你头像的几乎所有权利。你的头像可能被用于任何有利可图的行动。再联系你的时候，我也输入了我的手机号，相当于把我的重要隐私委托给了这个第三方。很快，这个协议在科技界引起了争议。

如何看待这个变脸App？你觉得这是隐私漏洞吗？你可以在评论区留言讨论

AI变脸技术最早出现在国外社交媒体上，也就是一部“色情片”里。

这个“色情片”就有些不一样了。她的女主角不是著名的“教师”，而是著名的女演员和神奇女侠之星盖尔·加朵。

当然，这不是为了盖尔·加朵赚钱或其他商业拍摄，而是有人用人工智能技术把她的脸放在一个色情女演员的脸上。

盖尔·加朵不是唯一一个被恶意中伤的人，还有其他几位著名的好莱坞女演员。

艾玛·沃特森

上图不是艾玛·夏洛特·迪耶雷·沃森本人

娜塔莉·波特曼；娜塔莉·波特曼

上图不是娜塔莉波特曼本人

艾玛·夏洛特·杜尔·沃森、斯嘉丽·约翰逊、二丫等人也遭到枪击。

在国外论坛Reddit上，甚至有一个专门的深度假货版块，一群网友聚在一起交流分享最新的“电影”。

还有人在上面“教课”，讲解如何通过AI变脸，把自己喜欢的女明星带入视频。

国产明星也没能“逃脱”。

在一些色情网站上，有网友自己制作的变脸片。

杨颖、范冰冰、杨幂...只有你想不到，但是没有他们你做不到。

AI变脸技术听起来很复杂，但实际操作起来并不难。

据一位知情人士透露，像“改变色情女主角的面貌”这样的视频所需的硬件配置并不高，只需一张普通的显卡和一点基础知识就可以操作。

不需要太多材料，几十张照片就可以了。照片越多，相似度越高。

有人曾给女主播阿冷一个“AI变脸”。在视频中，女主播的脸不停地换成唐嫣、杨幂、范冰冰等人，毫无违和感。

这么低的门槛和成本，意味着每个人都可以参与其中。

AI也成了一把双刃剑，既促进了科技的发展，也把女性推向了深渊。

科技应该给人类带来美。AI技术可以在电影拍摄中提供极大的便利，也可以还原迷失的人。

在张国荣节，粉丝们使用人工智能变脸技术来纪念他们的祖先。

但是总有邪恶的人用好的东西去做肮脏的事情。

“AI变脸”的“色情黑产业链”就像一颗种子，在黑暗中悄悄发芽。

今天的“女主角”是杨颖、范冰冰、杨幂...

明天，“女主角”可能是任何人。

你的前男友，和你闹翻的朋友，工作上有矛盾的同事...任何人都可以用“色情”的方式报复你。

女性也会再次陷入危险。

下一个受害者会是谁？