请选择 进入手机版 | 继续访问电脑版
 找回密码
 立即注册

QQ登录

只需要一步,快速开始

看点:AI换脸黑产已成规模!好莱坞和中国一二线女星集体被“下海”,400元教程包教包会。

导语:随着AI换脸技术的日渐普及,AI换脸黑产规模越来越庞大,许多人开始叫卖AI换脸成品情色视频、定制视频以及AI换脸软件及教程。
智东西7月24日消息,随着AI换脸技术的不断发展,围绕AI换脸已经形成了一条完整的黑色产业链。100元打包200部换脸情色片,囊括国内一二线女明星,5张照片就可以帮你定制换脸视频,400元就可以购买换脸软件及教程并包教包会……AI换脸是基于一套简单的深度学习算法,只需要照片或是视频,通过这套算法就可以把其中的人脸替换成你想要替换的人脸,操作相对简单,而且替换之后的视频或是照片十分逼真。许多人看到了这里面的“商机”,所以大量的AI换脸视频或照片开始出现,其中很多被应用到了情色片换脸,通过这项技术,你可以把情色片中的人脸替换成你想要看的人脸,而这也是引爆这一技术的话题点。记者调查发现,目前AI换脸黑产已经形成了完整的产业链,从下游成品情色视频、中游定制视频到上游软件及教程都有提供,有的卖家甚至提供全产业链产品和售后服务,据部分卖家透露,现在定制视频要排队,因为前面有很多人也有这个需求,可见AI换脸黑产已经发展到一定程度。

100元能干啥?打包200部换脸情色片
为了调查传闻中的AI换脸地下产业链,我也是煞费苦心,在浏览了各个论坛的公开信息之后,我锁定了三个主要的AI换脸黑产平台:淘宝、咸鱼、贴吧。我分别在淘宝、咸鱼、贴吧这三个AI换脸比较活跃的平台进行了调查,发现这三个平台目前对于AI换脸都已经加强了审核力度,不再像前一段时间搜AI换脸出现很多结果,且三个平台侧重点并不相同。

▲淘宝搜索“AI换脸’结果例如在淘宝输入“AI换脸”,前10个返回的店铺只有一家是做AI换脸的,而且只提供教程并不提供成品视频售卖,在返回的所有店铺中只发现了7家经营AI换脸的店铺,大部分都只提供软件及教程并不提供成品视频。

▲咸鱼搜索“换脸”结果在咸鱼搜索AI换脸干脆没有任何搜索结果,于是我机智的把AI去掉只搜索换脸(去掉换脸只搜AI也没有相关结果),这时咸鱼搜索结果的第一条就是AI换脸的店铺,在所有返回结果中,大部分都只做图片换脸,也有一小部分标注不太明确的售卖换脸软件和成品视频。

▲AI换脸吧、deepfake吧和fakeapp吧截图贴吧算是三个里面AI换脸最容易找到的地方,我先后潜入了AI换脸吧、deepfake吧和fakeapp吧,这三个是目前涉及AI换脸比较活跃的吧。AI换脸吧比较直接,发帖内容多是售卖成品视频或是软件教程,有的人也发帖收徒不过都是收费的;deepfake吧发的帖子有售卖视频、教程的,也有利用AI换脸制作一些搞笑视频或图片分享的;fakeapp吧则相对单纯的多,内容多是以技术交流为主,例如软件使用过程中的问题等,不过用软件做什么遇到了问题就不得而知了。


▲被调查的10个卖家资料整理三个平台大多并不直接交易,大部分都是通过这三个平台最后引流到QQ和微信。记者从三个平台成功联系到10个卖家,其中2个来自于咸鱼、4个来自于淘宝、4个来自于贴吧。在和卖家沟通并取得信任后,我都会问基本相同的问题,例如售卖内容、价格、是否可定制、用的是什么软件等。经过记者的调查,AI换脸黑产目前还主要停留在三个阶段,即售卖成品情色视频、售卖定制视频和售卖软件及教程。

▲不同卖家对于成品视频定价综合多个卖家的信息,成品情色视频价格从2元1部到30元46部、100元150部和100元200部不等,一般都是打包售卖。据卖家说,成品视频以国内一、二线女明星为主。

▲部分卖家发给我的成品视频案例有意思的是,也许是为了证明换脸效果,一般加上一个卖家的QQ或微信后,部分卖家会给我先发一段成品羞耻小视频,也有的卖家比较谨慎只给我发了拍摄的截图等。一开始我是拒绝的,不过一想为了工作,我也就抱着牺牲自我的精神义无反顾的都看了一遍,从视频和截图看,换脸效果确实都还不错。

▲卖家对于定制视频和教程收费定制视频的价格相对贵上一些,据部分卖家透露,定制视频一般1小时200-300元,低于1小时一律100元,也有的卖家按分钟计价,1分钟20-80元。不过定制视频流程很简单,只需要你提供5张左右照片就可以,据卖家说收费这么贵主要是一部定制视频需要渲染很长时间,一般10分钟的定制视频需要2小时左右,而一部长片至少需要十几个小时才能出成片。

▲进行AI换脸需要的电脑硬件配置软件和教程相对于成品视频和定制视频价格上就要贵不少,从多个卖家的报价看,教程一般的售价在300-400元左右,大部分卖家教程标价都是400元,而且保证1-3天学会,大多附带后续的指导。不过对于想要自己学习制作视频的人,卖家一般都会提醒说至少需要游戏级的配置,最低2G显存,GPU最好为4GHZ。不过这些卖家都只能称为普通卖家,在接触到的卖家中,有两个微信卖家路子比较野。

▲微信卖家A发给我的产品介绍截图一个来源于淘宝,这个卖家提供云处理功能,没错确实是云处理,利用它的软件进行视频处理时在他们的服务器上运行,不要求你的电脑性能。相关软件和教程也分为三种,分别是128元本地软件无需联网、298元服务器15G空间版本和368元无限空间版本,其中368元版本包括月租38元的VPN、月租450元的谷歌服务器和无限期售后服务。

▲微信卖家B发给我的两个可选择套餐还有一个卖家来自咸鱼,这个卖家除了成片羞耻视频还售卖国外APP下载链接和邀请码,据他所说,网站经常被封,这种方式比较安全。从他提供的视频看,这款APP专门有一个换脸专区,里面有大量的成品视频,不过应该并不都是他们自己制作的,因为有的视频和别的卖家提供给我的是一样的。有意思的是,通过观察这两个卖家的朋友圈我发现,他们经常会发一些“AI换脸是为了技术交流,绝对不涉黄、违法等”的内容。嗯,怎么说呢,你前一分钟刚和我聊完AI换脸羞耻小视频卖多少钱,后一分钟就发这个,只能说此刻我的内心是复杂的。从我调查的这10个AI换脸卖家来看,他们的经营范围和段位各不相同。低端玩家只卖一些成品小视频,而且还不一定是他自己做的,可能就是买的多了也想自己捞回点本。中端玩家增加了定制小视频功能,需要你提供一定的照片素材,能够帮助你实现“女神演毛片”。高端玩家除此之外还提供软件及教程,收徒教学,全程售后服务,体贴细致。骨灰级玩家只提供教程,而且操作在云端,甚至自己开发软件,可以说是处于产业链的上游了。从调查来看,目前AI换脸黑产还主要是在地下发展生存,具体规模不好估计,主要通过淘宝、咸鱼、贴吧进行引流。不过据一位淘宝店主透露,如果我想要定制视频那么就需要排队,而且短期内很难排到,这也在一定程度上说明了问题。

好莱坞女星“被下海”,朱茵变杨幂
AI换脸技术的核心是一个“自动编码器”,这个“自动编码器”实际上是一个深度神经网络,它能够接收数据输入,并将其压缩成一个小的编码,然后从这个编码中重新生成原始的输入数据。举个例子,如果你想把视频A中的人物b换成人物c,那么首先需要对视频A进行逐帧切片,并把没有人物b的帧删掉,然后还需要提供人物c的大量图片或视频,方法同上。之后深度学习算法会提取人物b每帧的特征,我们将之命名为feature b,找到人物b变换成feature b所需的光照、扭曲等条件。之后对人物c进行基于feature b的转换,形成feature c,然后用feature c替换feature b即可。

▲换脸+动作捕捉帮助保罗·沃克回归换脸技术并不是一种新技术,在影视剧制作中早已有之,例如《速度与激情7》里为了让保罗·沃克回归就用了视频换脸技术。不过早期影视剧制作中的换脸需要剪辑师和CGI(电脑三维动画)专家长时间的复杂工作,所以并不具有推广普及的基础。但是AI换脸出现的时间却并不长,这一切都要从2017年12月一位叫deepfakes的哥们说起。当时他把情色电影里的女主角换成了好莱坞明星盖尔·加朵,这也是人们第一次见识公开见识到AI换脸这项技术。

▲deepfakes在Reddit上上传的部分换脸视频这位哥们致力于在Reddit(知名在线论坛)上分享其利用AI技术制作的明星换脸小视频,被他用AI换脸搞过的明星和名人数不胜数,既包括大部分的好莱坞明星,也包括川普这样的政治人物。之后由于大量“受害者”的投诉,Reddit迫于压力封杀了deepfakes的账号,不过这次封杀却让deepfakes直接开源了其AI换脸项目的代码。根据他的分享,制作一个明星换脸视频非常简单。首先需要在谷歌等网络图集中收集你想要替换的人物各个角度的视频和图片,组成一个能满足深度学习任务进行脸部替换的素材库。然后通过TensorFlow或Github上提供的机器视觉相关模型,学习和理解原版羞耻小电影中女主角的面部特征、轮廓、动作和嘴型等等。继而让模型在素材库中寻找各种角度、各种表情下AI认为合适的图片与视频,对原本视频进行替换。据部分用户用deepfakes的方法制作之后反应,AI换脸其实非常简单,只要具备基础的电脑知识同时电脑本身配置满足要求,那么即使只是一个新人也能在几个小时内做出一部换脸视频,不过这时候的AI换脸还比较粗糙且主要做国外流行。之后人们为了纪念这位老哥的贡献,也用他的名字命名了AI换脸技术,称之为“deepfakes”。AI换脸真正在国内火起来还要说今年年初,B站UP主“换脸哥”发布的一段94版射雕英雄传视频。视频中,原本饰演黄蓉的演员朱茵的脸被替换成了杨幂的脸,从流出的视频和动图看,虽然是用AI合成的,但是整体效果十分逼真。


▲饰演黄蓉的朱茵的脸被替换成杨幂这件事在国内最大的影响就是让AI换脸被普通人所熟知,也正是这件事,促进了国内的AI换脸黑产逐渐发展壮大。

小鲜肉尴尬演技的“解药”
自AI换脸出现之后,相关的争议就没有停止过。AI换脸技术的“始祖”deepfakes正是因为其作品涉及相关人物的名誉及相关作品版权问题而被封禁。“受害者”之一好莱坞女星斯嘉丽·约翰逊在接受《华盛顿邮报》采访时,发表了自己对于deepfakes的愤怒看法。她表示,“每个国家都有自己的法律,即使你拥有自己形象图片的版权,在别的国家也不一行适用,面对充斥网络的AI换脸情色片,她和她的团队无能为力。”

▲斯嘉丽·约翰逊在国内,“换脸哥”发布杨幂版射雕英雄传之后,迅速在网上发酵并引起了轩然大波,B站视频截止删除前点击量超出20万,微博话题阅读量更是达到了1.3亿。

▲微博话题:将朱茵的脸换成杨幂的脸不过随着话题逐渐变热,批评和指责也随之而来,以微博杨幂官方粉丝团为代表的博主认为AI换脸侵犯了公民个人肖像权,而且如果任由这项技术发展,那么在当今这个AI人脸设别技术越来越先进的情况下,普通人尤其是普通女孩子的个人隐私也就受到威胁。也有一些微博用户认为,把电视剧中朱茵的脸换成杨幂的脸只是为了技术交流,也是为了表达对偶像的喜爱,只要这项技术不用在一些涉黄、违法的事情上,那么就没有什么大不了的。还有一些人观点独特,认为小鲜肉终有有救了,希望这种技术能推广一下,可以不用再看到僵硬、面无表情的表演了……记者也就这个问题采访了几位“吃瓜群众”。有人认为AI换脸是一个技术上的进步,但是目前来看用错了地方,还需要政府部门立法和监管;也有人认为AI换脸挺可怕的,想想也许有一天你的脸也被AI换掉了就让人不寒而栗,但是技术本身可能并没有问题。视频制作者肖先生也在第一时间撤下了该条视频并回应了此事。肖先生(换脸哥)说自己只是出于爱好,并未利用此视频进行营利,主要还是想让更多人认识这项技术。

▲肖先生(换脸哥)微博回应监管部门也已经注意到AI换脸、AI脱衣等应用的危害性。今年4月提交十三届全国人大常委会第十次会议审议的民法典人格权分编拟规定,任何组织或个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。5月底,国家网信办会同有关部门发布《数据安全管理办法(征求意见稿)》,其中要求,网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息,应以明显方式标明“合成”字样;不得以谋取利益或损害他人利益为目的自动合成信息。政府部门的这两个动作也表明,关于AI换脸等的法律文件或将出台,未来如果再利用AI换脸、AI脱衣等应用进行相关操作损害了他人利益的或涉及侵权违法。

换脸黑产已成完整产业链
在AI换脸刚刚出现的时候,更多的是给某个电视剧或者电影的主角脸换成自己喜欢的明星或者自己想看的人的脸,不过随着AI换脸技术的不断发展,基于deepfakes的应用也越来越多,知名的例如fakeapp、deepnude、faceswap等,这些应用的出现也降低了使用者的门槛,许多电脑小白也能在短期内学会如何进行AI换脸。门槛降低带来的也就是鱼龙混杂,有一些人专注于研究、分享自己的换脸作品,出于爱好或是出于玩乐。也有一些人看到了这里面的“商机”,于是对情色片进行换脸并打包售卖,最受欢迎的当然就是女明星,据有的卖家透露,其换脸作品几乎囊括国内所有一二线女明星。▲商家演示成品视频
在国内,AI换脸俨然已经形成了一个黑产产业链,上游提供软件及技术、中游提供视频、照片定制、下游售卖成品视频,也有的商家做全产业链的生意。从我调查来看,部分卖家供不应求,求之者众,黑产规模可见一斑。不过也不能因此就否认AI换脸,AI换脸的出现可以说是影视剧行业的一个惊喜,这项技术有助于帮助解决影视剧行业传统换脸技术成本高、工作复杂、换脸时间长等问题。同时,AI换脸的出现还普及了这项在许多人看来高大上的技术,毕竟换脸技术由来已久,AI换脸只是以用一种更简单、更易推广的方式出现,这件事本身对于AI技术的发展是一个推动作用。例如之前有一部电视剧《封神演义》,这部电视剧其实早在2015年就已经拍摄完成但直到2019年才播出,其中一个原因就是“限韩令”导致不得不为饰演费仲的演员韩国人金江日换脸,如果使用AI换脸,那么效率相信会高出不少。从以上所有的案例我们可以看出,目前AI换脸还处于一种“薛定谔的猫”的状态,在你完全了解这项技术之前,你不知道它会带来什么,不过有一点可以肯定,那就是技术本身是无罪的,有罪的只是那些心怀不轨的人。

结语:技术无罪,但要加强监管
也许当初deepfakes自己都没有想到,他的一个换脸视频能带来这么大的影响。从美国到中国,AI换脸的受众越来越多,受害者也越来越多,美国好莱坞明星和中国一二线女明显都难幸免。AI换脸技术做为一种深度学习算法,简单地说就只是代码和数字,通过这个算法可以把视频或照片中的人脸替换成另一张人脸,其本身并不涉及违法或是侵犯隐私等问题。不过许多人却在利用这项技术进行非正常牟利,他们利用这项技术的入门门槛低和一些人心中的小心思大量生产情色换脸视频,进行兜售,更有甚者直接出售软件和教程。面对这种乱象,也许只有政府层面的监管和约束才能有效遏制AI换脸黑产的持续蔓延。技术的发展总是伴随着各种问题,不急于否定、采优去劣或许才是一种正确的态度。正如上面的吃瓜群众所说:“技术本身没问题,只是用错了地方。”

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
发表评论
您需要登录后才可以回帖 登录 | 立即注册