670万粉丝网红女主播公开叫卖换脸色情视频

央视网北京7月10日讯（记者刘静宇）7月3日，拥有超670万粉丝的网红女主播陈岚发布视频称自己遭受恶意PS和AI换脸，照片被改变了。 色情照片和视频可在网上出售。

陈兰表示，她本来是想收集相关证据，找出根本原因，但不想公开得太过，但随着评论区散布谣言的人越来越多，她打算报警。

近日，记者调查发现，不少账号在社交平台上出售名人、网红的色情照片、视频。 100多个视频售价仅几十元。 销售换脸色情内容的卖家主要有两种模式。 一是利用明星公开照片“脱衣”； 另一种是将名人的面孔替换成色情图片和视频。 在多个电商平台上，不少商家在线销售AI绘图软件，声称此类软件可以提供“脱衣”功能。 该软件售价仅十几元。

事实上，“AI换脸”不仅可以制作色情照片和视频，还可能被用来诈骗他人。 6月25日，全国人大常委会法制委员会举行新闻发布会。 新闻发言人臧铁伟表示，利用“人工智能换脸”技术实施诈骗是一种新型电信网络诈骗，需要广大群众提高防诈骗、防诈骗意识。 有关部门要依法加强治理和执法，追究相关人员的法律责任。

公开出售换脸色情影片

除了女主播陈岚之外，拥有超过400万粉丝的网红女主播杜月也遇到了类似的情况。

据杜月介绍，六个月前，不少粉丝在她的短视频评论区留言，表示看过杜月的“色情视频”。

“我当时并没有多想，以为无辜者会得到净化，毕竟这个‘谣言’最终会过去。” 杜月说，直到有一天她的朋友转发了一段色情视频，女主角和她一模一样。 她这才意识到自己遇到了恶意“变脸”。

杜月表示，为了证明自己的清白，她开始收集相关证据，想要找到根本原因。 “最后我发现，有人用虚假身份在海外社交平台注册了账号，然后‘搬’到国内视频平台发布，账号有了一定粉丝后，就开始售卖色情内容。”带有换脸的视频。”

杜月提供的一份价目表显示，涉及数百名网红，而且还按照粉丝级别划分，从粉丝不足50万到粉丝超过1000万。 相应的换脸色情视频售价在30元到50元不等。 此外，表中还有不少女明星。 表格发布者称，“200元即可进群明星合成网站，进群后可定制，永久半价”。

记者调查发现，在一些社交平台上，不少账号声称可以出售网红、名人的换脸色情资料，并以此方式将流量引流至QQ进行交易。

顺着杜悦提供的线索，记者添加了一位卖家的QQ好友，后者直接发来了一张截图，图片上贴有数十张女明星的艳照。

卖家称，他拥有80多名名人和15000多张照片。 如果全部购买，价格只需60元，即可获赠23段视频。 之后您还可以享受免费更新。 卖家还表示，如果购买单个明星的换脸照，将按照照片数量收费。 5元可以买300张照片。

有卖家声称60元就能买到多位明星的换脸色情资料（记者截图）

此外，有卖家表示，根据买家的需求，可以专门制作指定某名人或网红的色情材料。

支付60元后明星合成网站，卖家寄来了数十个压缩包，全部以名人命名。 记者发现，该卖家出售的换脸色情材料主要分为两种模式。 一种是利用名人的公开照片“脱衣服”，另一种是将这些名人的面孔替换成色情图片和视频。

北京蓝鹏律师事务所主任张起槐代理了多起与“人工智能换脸”相关的案件。 在他看来，“AI换脸”应该帮助广告、电影、艺术品等进行适当的修复。 这本来是一项很好的技术，但是现在很多人开始利用这项技术来获取非法利润。

张起槐表示，利用他人肖像换脸的行为涉嫌侵犯当事人的肖像权、名誉权、荣誉权和人格权。 如果将人的脸部制作成色情视频并出售，这种情况可能会构成刑事犯罪。

“AI换脸”背后的商业经验

近日，记者在多个电商平台搜索“AI换脸”关键词，均未显示。 不过，记者搜索“智能合成、明星”、“真人人脸模型训练”、“脱衣AI”等关键词，依然能找到在售产品。

一款“AI绘图软件”的产品页面明确指出，“该软件可以实现将真人变成卡通、换头像、换衣服等功能”。 这款软件售价仅16.66元，月销量达到200多个。

“真的可以‘脱衣服’吗？” 有人在店家评论区提出了这个问题，很多人回复说有可能。 此外，还有人问它是否可以制作色情图片，有人回答说，“只要购买该软件并进入买家交流群，它就有所有功能。”

在一款AI绘图软件的问答区，有人回复称该软件确实有“脱衣”功能。 （记者截图）

记者进入“买家交流群”后，短短两天时间，群成员从40人迅速增加到150人。大多数成员在群里交流如何使用软件，还不时分享自己的“作品”。

有会员在群里询问是否有人愿意接单、制作“定制图片”。 “这不是违法的吗？” 群里有人问，对方说：“危险才能获得财富。”

除了销售绘图软件外，还有提供“真人模型培训”的商家，即使用真人的照片或视频。 训练完成后，可以直接使用模型生成相应的照片和视频，实现换脸效果。

一位提供培训服务的商家告诉记者，他们只需要提供20到30张照片，尽量聚焦脸部特写，培训就可以在2个多小时内完成。 然后，买家将数据导入软件以生成所需的材料。

商家给记者发来了一张效果图，该效果图是用国内模特的真人照片制作的。 换脸后，脸型与国内明星非常相似。

上述商家表示，模型训练完成后，买家可以根据自己的需求生成各种照片，包括“移除”素材，但“移除”操作在云端是禁止的，需要在电脑上完成。

“AI换脸”骗局

商家销售“犯罪工具”的背后，也有人利用“AI换脸”技术实施诈骗。

张起槐告诉记者，他曾代理过缅北多起跨国敲诈勒索案件。 本案犯罪嫌疑人利用“AI换脸”技术，将自己伪装成女性，诱导受害人与其“裸聊”。 随后，双方的视频被用作勒索受害人的证据。

近日，中国银河证券发布公告称，利用“AI合成技术”的诈骗行为可能会逐渐蔓延至证券行业。 公告称，某知名经济学家称，他被人利用“AI换脸”等技术，通过视频、语音等方式联系投资者，骗取投资者信任，开展股票推荐活动。

此前，多地警方通报了与“AI换脸”相关的诈骗案件。 5月20日，包头市警方公布了一起利用人工智能换脸的电信诈骗案。 客户郭先生突然收到朋友发来的微信视频。 朋友告诉郭先生，他有一个朋友去外地竞拍需要430万元保证金，想用郭先生的公司账户转钱。 郭先生觉得自己和朋友拍了视频，确认是他，于是也没多想，直接把钱转到了对应的账户上。 十分钟之内，郭先生因视频通话被骗走430万元。

2022年2月，陈先生报案称，自己被“朋友”诈骗近5万元。 经警方核实，诈骗分子利用陈先生好友“阿城”在社交平台上发布的视频，截取其脸部视频片段，然后利用“AI换脸”技术进行合成，制造假象。陈先生正在与他的“朋友”视频聊天，以诈骗他。 信任，从而实施欺诈。

6月25日，全国人大常委会法制委员会举行新闻发布会。 臧铁伟回答了“AI换脸”相关问题。 他表示，利用“人工智能换脸”合成视频实施诈骗，是利用新技术进行诈骗，与传统诈骗本质上是一样的。

臧铁伟还表示，构成诈骗罪的，必须依照我国刑法第266条的规定追究刑事责任。 对利用“人工智能换脸”实施诈骗提供技术支持和协助的，依照反电信网络诈骗法的规定给予行政处罚。 构成犯罪的，还应当依照刑法第二百八十七条之二的规定提供协助信息。 网络犯罪活动和其他犯罪的刑事责任。 对利用“人工智能换脸”实施诈骗提供技术支持和协助的，依照反电信网络诈骗法的规定给予行政处罚。 构成犯罪的，还应当依照刑法第二百八十七条之二的规定提供协助信息。 网络犯罪活动和其他犯罪的刑事责任。

立法机关正在建立健全相关法律制度

随着人工智能的发展，“AI换脸”的技术门槛逐渐降低，应用场景也越来越多。 一些不法分子在满足人们求新、求美、社交等需求的同时，为了牟利，突破了道德底线和法治红线。 。

为遏制“人工智能换脸”乱象，国家网信办、派坤、工信部联合发布的《互联网信息服务深度综合管理规定》（以下简称《规定》）第十七条公安部2022年11月25日发布的《深度合成服务提供者提供智能对话、合成人声、人脸生成、人脸替换等深度合成服务，可能引起公众混淆或者误解的，应当明确标记生成或编辑的信息内容的合理位置和区域。 一、深度合成提醒公众：深度合成服务提供者提供前款规定以外的深度合成服务的，应当提供显着识别功能，并提醒深度合成服务用户可以进行显着识别。

条例明确，提供深度综合服务必须遵守法律法规，尊重社会公德伦理，坚持正确政治方向、舆论引导、价值取向，推动深度综合服务向善。

张起槐表示，现在很多犯罪分子开始利用“AI换脸”技术进行犯罪。 由于立法总是滞后于社会现象，此类案件的司法实践中大家很难掌握法律标准，因此非常有必要尽快完善相关立法。

张起淮表示，要加强“AI换脸”技术的技术监督和鉴定，加强相关技术的普及。 如果遇到类似侵权行为，有条件的一定要及时举报或起诉，不要因为怕麻烦而纵容此类现象。

臧铁伟表示，当前，中宣部、公安部正在全国开展“全国反诈骗在行动”集中宣传月活动，并将进一步落实反电信网络诈骗法，不断增强公众的防诈骗意识，有效在全社会营造强烈的反诈骗意识。 气氛。 立法机关也在加强对人工智能等领域法律问题的研究，不断建立健全相关法律制度。

中国政法大学传播法研究中心副主任朱伟表示，人工智能技术的监管重点是，首先内容生产者要对结果负责。 其次，用户在使用人工智能技术的过程中需要被告知。 如果有人遇到别人的恶意换脸行为，即使恶意换脸者还没有被发现，提供换脸技术的平台也需要承担责任，因为平台本身也有责任和义务监督用户使用什么材料。

（文中陈岚、杜悦为化名）