您的位置 首页 > 旅游

艾玛沃特森合成 AI换脸火了!你离成为色情片主角,只差一个朋友圈头像,不少知名女星已中招

在APP商城上,ZAO的开发商是长沙深集成网络技术有限公司..

其实AI变脸视频也不是什么新鲜事。早在2017年12月,一位名叫“deepfakes”的外国Reddit论坛用户就在网上首次发布了自己的AI变脸视频。它可以把照片和视频中的人脸替换成任何你想替换的人脸,效果非常逼真,有的肉眼甚至分不清真假。

目前AI变脸技术已经蓬勃爆发,被恶意使用一次又一次。在国内外,用户使用这项技术来欺骗名人的脸,甚至生成假视频——例如,今年6月,Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)的一段被篡改的视频浮出水面,他在视频中质疑该公司用户数据的隐私。

▲扎克伯格的视频被篡改。在这些事件之后,扎克伯格上个月在阿斯彭创意节上告诉观众,Facebook正在考虑制定政策来处理深度假货。

更何况,目前AI变脸黑产品在国内已经形成了完整的产业链,从下游的成品色情视频,中游的定制视频,到上游的软件和教程,甚至有卖家在整个产业链中提供产品和售后服务。据一些卖家说,定制视频现在要排队了,因为前面也有很多人有这个需求,说明AI已经发展到一定程度。关于目前炙手可热的ZAO软件有两个问题:1。如何保证视频资料的版权?视频资料的版权是一个关键点。该软件的版权声明称:“ZAO产品上的短视频和表情,除了ZAO与版权合作伙伴合作的特别声明外,全部来自ZAO用户的自发上传。ZAO不享有这些材料的商业版权。”有特殊说法的资料很少,言下之意是资料都是用户传递的,有摔锅之嫌。

但奇怪的是,在上传资料的菜单下,显示上传资料需要通过权限认证,但认证未打开,灰色按钮显示“暂停申请”。这些用户上传的现有资料来自哪里?2.如何保护用户隐私不随意变脸?虽然APP一开始需要在体内验证,软件的长隐私保护协议说明了可能对用户隐私产生影响的地方,但用户在获得他人照片后是否能完全避免恶搞,还是值得怀疑的。

不久,赵无极用户协议中的近似“霸王条款”在网上引发了巨大争议

简而言之,一旦你同意这个用户条款,Zao将拥有上传你头像的几乎所有权利。你的头像可能被用于任何有利可图的行动。再联系你的时候,我也输入了我的手机号,相当于把我的重要隐私委托给了这个第三方。很快,这个协议在科技界引起了争议。

如何看待这个变脸App?你觉得这是隐私漏洞吗?你可以在评论区留言讨论

AI变脸技术最早出现在国外社交媒体上,也就是一部“色情片”里。

这个“色情片”就有些不一样了。她的女主角不是著名的“教师”,而是著名的女演员和神奇女侠之星盖尔·加朵。

当然,这不是为了盖尔·加朵赚钱或其他商业拍摄,而是有人用人工智能技术把她的脸放在一个色情女演员的脸上。

盖尔·加朵不是唯一一个被恶意中伤的人,还有其他几位著名的好莱坞女演员。

艾玛·沃特森

上图不是艾玛·夏洛特·迪耶雷·沃森本人

娜塔莉·波特曼;娜塔莉·波特曼

上图不是娜塔莉波特曼本人

艾玛·夏洛特·杜尔·沃森、斯嘉丽·约翰逊、二丫等人也遭到枪击。

在国外论坛Reddit上,甚至有一个专门的深度假货版块,一群网友聚在一起交流分享最新的“电影”。

还有人在上面“教课”,讲解如何通过AI变脸,把自己喜欢的女明星带入视频。

国产明星也没能“逃脱”。

在一些色情网站上,有网友自己制作的变脸片。

杨颖、范冰冰、杨幂...只有你想不到,但是没有他们你做不到。

AI变脸技术听起来很复杂,但实际操作起来并不难。

据一位知情人士透露,像“改变色情女主角的面貌”这样的视频所需的硬件配置并不高,只需一张普通的显卡和一点基础知识就可以操作。

不需要太多材料,几十张照片就可以了。照片越多,相似度越高。

有人曾给女主播阿冷一个“AI变脸”。在视频中,女主播的脸不停地换成唐嫣、杨幂、范冰冰等人,毫无违和感。

这么低的门槛和成本,意味着每个人都可以参与其中。

AI也成了一把双刃剑,既促进了科技的发展,也把女性推向了深渊。

科技应该给人类带来美。AI技术可以在电影拍摄中提供极大的便利,也可以还原迷失的人。

在张国荣节,粉丝们使用人工智能变脸技术来纪念他们的祖先。

但是总有邪恶的人用好的东西去做肮脏的事情。

“AI变脸”的“色情黑产业链”就像一颗种子,在黑暗中悄悄发芽。

今天的“女主角”是杨颖、范冰冰、杨幂...

明天,“女主角”可能是任何人。

你的前男友,和你闹翻的朋友,工作上有矛盾的同事...任何人都可以用“色情”的方式报复你。

女性也会再次陷入危险。

下一个受害者会是谁?

艾玛沃特森合成 AI换脸火了!你离成为色情片主角,只差一个朋友圈头像,不少知名女星已中招

在APP商城上,ZAO的开发商是长沙深集成网络技术有限公司..其实AI变脸视频也不是什么新鲜事。早在2017年12月,一位名叫“deepfakes”的外国Reddit论坛用户就在网上首次发布了自己的AI变脸视频。它可以把照片和视频中的人脸替换成任何你想替换的人脸,效果非常逼真,有的肉眼甚至分不清真假。目前AI

热门文章