“AI换脸调查：淫秽视频可定制女星 700部百元打包卖”

本篇文章3895字，读完约10分钟

人工智能( ai )变脸的飓风，挑战着互联网的安全。

根据新京报记者最近的调查，随着ai技术的人气和门槛的降低，销售改变明星面貌的淫秽视频已经成为地下生意。 百度贴吧里有标榜“变脸+女明星名字”的报道者，销售用ai变脸技术合成的视频，价格只要4元一部，158元也可以打包购买700部视频。 很多有名的女明星被频繁提及。

另外，新京报记者观察到，闲鱼上有卖家提供“定制交换”服务。 买方提供明星和私人照片，卖方可以“移花接木”淫秽录像的主角。 定制的更换视频每分钟20元至50元。

对此，联合国网络安全和网络犯罪问题高级顾问吴沈括对新京报记者表示，销售ai变脸淫秽视频是自身传播淫秽物品牟利罪，也侵犯了肖像权。 购买者购买后传达或盈利，可能是违法的。

销售

女演员“变脸”，35台视频打包69元

记者搜索发现，在“变脸”、“deepfake”、“fakeapp”的留言板等处有销售改变ai面孔的淫秽视频的投稿。 发信人没有头像，是简单英语方案母名的客户，而且新闻用语模糊，包括“国内外81部，诚信第一”。

记者联系了一位叫阿长(化名)的卖家，之后发送了“80台明星合成视频名单”的压缩包。 包括许多淫秽视频的列表截图，文件名中显示了许多大众熟知的女明星。

“(购买)低于15份就要4元1份，超过15份就要3元1份，全部购买80份就要68元。 ”。 阿长表示，视频文件将通过qq文件发送，支持微信、支付宝( Alipay )、qq红包等支付方式。 记者随机购买了4元、以着名女明星为标题的视频。 视频中女主角的脸全部代替了这个女演员，尽管换脸效果很差，但一眼就能识别出来。

随后，阿长附上了相关视频的剪辑版本，包括多段淫秽视频的部分副本，其中女主角的脸全部被这位女演员取代。

另一位送报纸的卖家林祥(化名)向记者发送了网络链接。 在网盘上，除了视频目录、截图、试镜视频等文件外，还包含了某著名女性明星目录的文件。

“打包价158元，买700台视频，打包发截图。 ”。 根据林祥提供的压缩文件，多位女明星被换成主角的频率最高。

“还有30分钟、40分钟、5分钟。 有些相似，有些不相似。 不仅仅是价格是一样的。 ”林祥说，每个视频都是根据时长和制作效果定价的。

上述知名女明星的目录文件包括35部视频，打包价69元，单卖约5-10元。 10分钟以上的视频每部20-28元。

记者问阿长，销售相关视频的其他卖家是否也是他时，他立刻否定了更新目录，并拿出来。 “他肯定没有这个，我会更新这个”。 他告诉记者，这些视频不是自己制作的，而是来自国内某互联网平台，充值会员可以下载流通。

但是，记者没有通过搜索发现这样的国内网络平台。

定制

提供照片和录像后就移动树木，“照片越多越像”

除了百度贴吧，二手偶像平台的闲鱼上也有相关销售新闻。 记者在闲鱼上搜索“ai换脸”，就会发现“ai换脸明星最精品”、“ai换脸、合集，都知道！ ”。 等着新闻，其实是在“嫁接”女明星脸上的淫秽录像。

记者分别与4名卖家进行了信息表达，通常提供有女明星名字的目录截图，以100份打包的形式销售，价格在10元至38元之间。 卖方的儿子(化名)告诉记者，在他打包贩卖的淫秽视频中，有名的女明星被恶意“嫁接”的最多。

此外，记者还搜索闲鱼，一些卖家提供“定制换脸”服务，买家提供明星或个人照片，卖家可以“嫁接”在包括照片面部淫秽视频在内的任何视频中，制作周期为1 -。

卖方高尔(化名)表示，购买者需要提供视频素材和照片。 “照片要多一些，在横向等各个立场上，至少需要提供20张以上。 照片越多越像，所以没有照片也可以发送视频”。

另一位卖家要求，如果是“变脸”的淫秽视频，从3分钟开始做。 这个卖家的定制价格是1分钟50元，2分钟95元，3分钟135元，也就是说，买家至少要消费135元才能定制变脸的视频。

记者最近在闲鱼平台上搜索“ai换脸”，显示有9种商品在销售。 包括“换脸软件”、“定制换脸”、“换脸教育”。 一些卖家在商品新闻中表示:“本店只负责服务配置环境和教授的基础知识，没有帮助操作。 请自己遵守当地的法律。 请自负不这样做”。

在记者调查过程中，观察到闲鱼平台已经删除了部分淫秽视频销售链接。

另外，记者在淘宝搜索“ai换脸”，在20多家店铺有相关销售新闻。 记者随机询问了7家店铺，其中4家提供定制服务，但销售者确定“不做黄，不做证明”。 该卖方还默许记者被要求制造和销售伪证。

教学

据说卖家用398元包教堂，学生打7折。

记者观看了上述视频，观察到部分视频有“合成联盟”文字及其qq号水印。 据悉，记者通过该qq号联系昵称“用明星合成+教育+代制作视频”的卖家，不仅提供改变明星面貌的视频和定制面孔的服务，还提供教育服务。

“买教程发全套视频，600多部。 ”。 该卖家表示，他提供ai变脸视频制作教育服务，价格为398元，包括教堂附带淫秽视频600多部。 “我们使用的云的效果是deepfake的几十倍。 ”该卖家告诉记者，“购买云发送fakeapp和deepnude”。

根据卖方提供的教育文案，客户根据指南，通过完成“链接到云硬盘、提取面部数据、训练模型、变脸输出视频”4个步骤，创建改变ai面部的视频

“感谢你们的信任。 学生:昨天下午刚学习，不到三个小时的全会上，只要想学习就全力以赴地教。 ”。 据该卖家朋友圈介绍，很多学生已经在学习相关ai的面部交换技术。

记者翻阅卖家微信朋友圈，看到“ai智能暑假期间，所有学生凭学生证一律7折，学习起来不辛苦”。 卖方提供的截图显示，已经提供了学生证新闻，并购买了该教育服务。

据《纽约时报》报道，deepfake是用人工智能软件制作的虚假视频，由fakeapp程序制作，fakeapp可以改变ai的脸部。 deepnude可以通过人工智能对照片中穿着衣服的人物实现“一键脱衣”的效果。

“随着科学技术的飞速发展，大众一定会面临这样的问题。 deepnude生成的照片不是本人，而是ps后的效果”网络安全专家张百川在接受新京报记者采访时表示，网络上已经有部分人开始研究类似的算法。

此外，对比网络安全，吴沈括指出，《网络安全法》建立了对网络产品和服务的安全控制，大体上，利用淫秽影像制作和网络技术“作恶”是对他人合法权益的侵害

争议

变脸视频互联网一大堆，个人很难插手

其实，改变ai面貌的技术在任何行业都已经使用了很久。 使用最广泛的行业是电影。 据新京报报道，中国科学院计算技术研究所的张杰在此前的报道中表示:“这个技术很容易理解。 通过学习的方法，李四被扭曲的脸可以在一个神经网络上恢复到真实的脸。” 该神经网络具备在学习后将任意面部恢复为“李四”面部的能力。

今年年初，用ai技术将《射雕英雄传》中朱茵的脸换成杨幂的视频在网络上成为话题。 根据记者的搜索，视频网站抖音视频(b站)中有很多ai的换脸视频，很受欢迎。 其中，蔡徐坤的脸被原网络游戏主播卢本伟的视频替换，播放次数达到253.1万次。 很多网友在相关视频评论区评论说“没有违和感”“很有趣哈哈”。

阿乐(假名)告诉记者，出于猎奇和娱乐的考虑，他喜欢在抖音视频上看改变ai面孔的视频。 “将外国人的脸变成古装人物很新颖”，但是在相关评论区也有网友表示“即使ai变脸(也许可以使用)勒索色情作品，技术也是无罪的，还是人本邪恶的。”

律师、星娱乐法创始人李振武向新京报记者表示，视频制作者未经朱茵和杨幂许可擅自采用肖像画，答辩未从事营利行为，但在网络语境下，流量变化和粉丝倍增难以解释为非营利行为，涉嫌侵犯肖像权。

有观点认为，ai变脸技术的门槛正在下降。 对此，张百川说:“以前就有技术上的困难，如果算法公开，这种倾向不会太抵触。”

张百川告诉记者，普通人可能很难掌握ai的换脸技术，但如果有人能利用这项技术制作出具有同样功能的软件，普通人只需要用app拍照就可以了。 关于个人如何防范，张百川说:“并不简单。 如果照片在网上，就有(被利用)的风险”。

记者观察到deepfake和deepnude在海外成为热门话题，据《纽约时报》报道，随着使用fakeapp制作名人色情视频的人不断增加，fakeapp引起恐慌。 《卫报》称这类软件为“对未来的可怕一瞥”，表达了对人工智能未来可能带来的伦理问题的担忧。

当地时间7月2日，美国弗吉尼亚州通过了关于色情禁令的法律修正案，成为美国首批禁止从计算机传播色情拷贝的地区之一。 根据修正案，未经许可发布或销售以任何方式制作的某人处于裸体或脱衣状态的视频或静止图像是违法的，包括虚假制作的视频或静止图像。

在我国，根据《刑法》第三百六十三条的规定，以牟利为目的，制作、复印、出版、销售、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金。 情节严重的，处三年以上十年以下有期徒刑，并处罚金。 情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者财产。

联合国网络安全和网络犯罪问题高级顾问吴沈括说，中国法律规定，变脸卖淫秽视频本身就是传播淫秽物品罪，民事侵权行业不允许，为他人画像谋利

与购买ai淫秽视频相比，吴沈括告诉记者，目前对购买淫秽物品未设立法律责任，集中在传播淫秽物品和传播淫秽物品两种违法形式上。 购买者购买ai淫秽视频后，如果传播或盈利，可能会违法或犯罪。

张百川认为，技术本身没有问题，就是有人利用技术作恶，群众在日常生活中，必须重视个人隐私的保护。 “比如即时通讯软件，有使用它工作的人，也有欺诈的人。 ”