全网AI资源网站搭建

电脑端+手机端+微信端=数据同步管理

免费咨询热线:13114099110

670万粉丝网红女主播公开叫卖换脸色情视频

发布时间:2023-11-16 10:04   浏览次数:次   作者:派坤优化

央视网北京7月10日讯(记者刘静宇)7月3日,拥有超670万粉丝的网红女主播陈岚发布视频称自己遭受恶意PS和AI换脸,照片被改变了。 色情照片和视频可在网上出售。

陈兰表示,她本来是想收集相关证据,找出根本原因,但不想公开得太过,但随着评论区散布谣言的人越来越多,她打算报警。

近日,记者调查发现,不少账号在社交平台上出售名人、网红的色情照片、视频。 100多个视频售价仅几十元。 销售换脸色情内容的卖家主要有两种模式。 一是利用明星公开照片“脱衣”; 另一种是将名人的面孔替换成色情图片和视频。 在多个电商平台上,不少商家在线销售AI绘图软件,声称此类软件可以提供“脱衣”功能。 该软件售价仅十几元。

事实上,“AI换脸”不仅可以制作色情照片和视频,还可能被用来诈骗他人。 6月25日,全国人大常委会法制委员会举行新闻发布会。 新闻发言人臧铁伟表示,利用“人工智能换脸”技术实施诈骗是一种新型电信网络诈骗,需要广大群众提高防诈骗、防诈骗意识。 有关部门要依法加强治理和执法,追究相关人员的法律责任。

公开出售换脸色情影片

除了女主播陈岚之外,拥有超过400万粉丝的网红女主播杜月也遇到了类似的情况。

据杜月介绍,六个月前,不少粉丝在她的短视频评论区留言,表示看过杜月的“色情视频”。

“我当时并没有多想,以为无辜者会得到净化,毕竟这个‘谣言’最终会过去。” 杜月说,直到有一天她的朋友转发了一段色情视频,女主角和她一模一样。 她这才意识到自己遇到了恶意“变脸”。

杜月表示,为了证明自己的清白,她开始收集相关证据,想要找到根本原因。 “最后我发现,有人用虚假身份在海外社交平台注册了账号,然后‘搬’到国内视频平台发布,账号有了一定粉丝后,就开始售卖色情内容。”带有换脸的视频。”

杜月提供的一份价目表显示,涉及数百名网红,而且还按照粉丝级别划分,从粉丝不足50万到粉丝超过1000万。 相应的换脸色情视频售价在30元到50元不等。 此外,表中还有不少女明星。 表格发布者称,“200元即可进群明星合成网站,进群后可定制,永久半价”。

记者调查发现,在一些社交平台上,不少账号声称可以出售网红、名人的换脸色情资料,并以此方式将流量引流至QQ进行交易。

顺着杜悦提供的线索,记者添加了一位卖家的QQ好友,后者直接发来了一张截图,图片上贴有数十张女明星的艳照。

卖家称,他拥有80多名名人和15000多张照片。 如果全部购买,价格只需60元,即可获赠23段视频。 之后您还可以享受免费更新。 卖家还表示,如果购买单个明星的换脸照,将按照照片数量收费。 5元可以买300张照片。

670万粉丝网红女主播公开叫卖换脸色情视频(图1)

有卖家声称60元就能买到多位明星的换脸色情资料(记者截图)

此外,有卖家表示,根据买家的需求,可以专门制作指定某名人或网红的色情材料。

支付60元后明星合成网站,卖家寄来了数十个压缩包,全部以名人命名。 记者发现,该卖家出售的换脸色情材料主要分为两种模式。 一种是利用名人的公开照片“脱衣服”,另一种是将这些名人的面孔替换成色情图片和视频。

北京蓝鹏律师事务所主任张起槐代理了多起与“人工智能换脸”相关的案件。 在他看来,“AI换脸”应该帮助广告、电影、艺术品等进行适当的修复。 这本来是一项很好的技术,但是现在很多人开始利用这项技术来获取非法利润。

张起槐表示,利用他人肖像换脸的行为涉嫌侵犯当事人的肖像权、名誉权、荣誉权和人格权。 如果将人的脸部制作成色情视频并出售,这种情况可能会构成刑事犯罪。

“AI换脸”背后的商业经验

近日,记者在多个电商平台搜索“AI换脸”关键词,均未显示。 不过,记者搜索“智能合成、明星”、“真人人脸模型训练”、“脱衣AI”等关键词,依然能找到在售产品。

一款“AI绘图软件”的产品页面明确指出,“该软件可以实现将真人变成卡通、换头像、换衣服等功能”。 这款软件售价仅16.66元,月销量达到200多个。

“真的可以‘脱衣服’吗?” 有人在店家评论区提出了这个问题,很多人回复说有可能。 此外,还有人问它是否可以制作色情图片,有人回答说,“只要购买该软件并进入买家交流群,它就有所有功能。”

670万粉丝网红女主播公开叫卖换脸色情视频(图2)

在一款AI绘图软件的问答区,有人回复称该软件确实有“脱衣”功能。 (记者截图)

记者进入“买家交流群”后,短短两天时间,群成员从40人迅速增加到150人。大多数成员在群里交流如何使用软件,还不时分享自己的“作品”。

有会员在群里询问是否有人愿意接单、制作“定制图片”。 “这不是违法的吗?” 群里有人问,对方说:“危险才能获得财富。”

除了销售绘图软件外,还有提供“真人模型培训”的商家,即使用真人的照片或视频。 训练完成后,可以直接使用模型生成相应的照片和视频,实现换脸效果。

一位提供培训服务的商家告诉记者,他们只需要提供20到30张照片,尽量聚焦脸部特写,培训就可以在2个多小时内完成。 然后,买家将数据导入软件以生成所需的材料。

商家给记者发来了一张效果图,该效果图是用国内模特的真人照片制作的。 换脸后,脸型与国内明星非常相似。

上述商家表示,模型训练完成后,买家可以根据自己的需求生成各种照片,包括“移除”素材,但“移除”操作在云端是禁止的,需要在电脑上完成。

“AI换脸”骗局

商家销售“犯罪工具”的背后,也有人利用“AI换脸”技术实施诈骗。

张起槐告诉记者,他曾代理过缅北多起跨国敲诈勒索案件。 本案犯罪嫌疑人利用“AI换脸”技术,将自己伪装成女性,诱导受害人与其“裸聊”。 随后,双方的视频被用作勒索受害人的证据。

近日,中国银河证券发布公告称,利用“AI合成技术”的诈骗行为可能会逐渐蔓延至证券行业。 公告称,某知名经济学家称,他被人利用“AI换脸”等技术,通过视频、语音等方式联系投资者,骗取投资者信任,开展股票推荐活动。

此前,多地警方通报了与“AI换脸”相关的诈骗案件。 5月20日,包头市警方公布了一起利用人工智能换脸的电信诈骗案。 客户郭先生突然收到朋友发来的微信视频。 朋友告诉郭先生,他有一个朋友去外地竞拍需要430万元保证金,想用郭先生的公司账户转钱。 郭先生觉得自己和朋友拍了视频,确认是他,于是也没多想,直接把钱转到了对应的账户上。 十分钟之内,郭先生因视频通话被骗走430万元。

2022年2月,陈先生报案称,自己被“朋友”诈骗近5万元。 经警方核实,诈骗分子利用陈先生好友“阿城”在社交平台上发布的视频,截取其脸部视频片段,然后利用“AI换脸”技术进行合成,制造假象。陈先生正在与他的“朋友”视频聊天,以诈骗他。 信任,从而实施欺诈。

6月25日,全国人大常委会法制委员会举行新闻发布会。 臧铁伟回答了“AI换脸”相关问题。 他表示,利用“人工智能换脸”合成视频实施诈骗,是利用新技术进行诈骗,与传统诈骗本质上是一样的。

臧铁伟还表示,构成诈骗罪的,必须依照我国刑法第266条的规定追究刑事责任。 对利用“人工智能换脸”实施诈骗提供技术支持和协助的,依照反电信网络诈骗法的规定给予行政处罚。 构成犯罪的,还应当依照刑法第二百八十七条之二的规定提供协助信息。 网络犯罪活动和其他犯罪的刑事责任。 对利用“人工智能换脸”实施诈骗提供技术支持和协助的,依照反电信网络诈骗法的规定给予行政处罚。 构成犯罪的,还应当依照刑法第二百八十七条之二的规定提供协助信息。 网络犯罪活动和其他犯罪的刑事责任。

立法机关正在建立健全相关法律制度

随着人工智能的发展,“AI换脸”的技术门槛逐渐降低,应用场景也越来越多。 一些不法分子在满足人们求新、求美、社交等需求的同时,为了牟利,突破了道德底线和法治红线。 。

为遏制“人工智能换脸”乱象,国家网信办、派坤、工信部联合发布的《互联网信息服务深度综合管理规定》(以下简称《规定》)第十七条公安部2022年11月25日发布的《深度合成服务提供者提供智能对话、合成人声、人脸生成、人脸替换等深度合成服务,可能引起公众混淆或者误解的,应当明确标记生成或编辑的信息内容的合理位置和区域。 一、深度合成提醒公众:深度合成服务提供者提供前款规定以外的深度合成服务的,应当提供显着识别功能,并提醒深度合成服务用户可以进行显着识别。

条例明确,提供深度综合服务必须遵守法律法规,尊重社会公德伦理,坚持正确政治方向、舆论引导、价值取向,推动深度综合服务向善。

张起槐表示,现在很多犯罪分子开始利用“AI换脸”技术进行犯罪。 由于立法总是滞后于社会现象,此类案件的司法实践中大家很难掌握法律标准,因此非常有必要尽快完善相关立法。

张起淮表示,要加强“AI换脸”技术的技术监督和鉴定,加强相关技术的普及。 如果遇到类似侵权行为,有条件的一定要及时举报或起诉,不要因为怕麻烦而纵容此类现象。

臧铁伟表示,当前,中宣部、公安部正在全国开展“全国反诈骗在行动”集中宣传月活动,并将进一步落实反电信网络诈骗法,不断增强公众的防诈骗意识,有效在全社会营造强烈的反诈骗意识。 气氛。 立法机关也在加强对人工智能等领域法律问题的研究,不断建立健全相关法律制度。

中国政法大学传播法研究中心副主任朱伟表示,人工智能技术的监管重点是,首先内容生产者要对结果负责。 其次,用户在使用人工智能技术的过程中需要被告知。 如果有人遇到别人的恶意换脸行为,即使恶意换脸者还没有被发现,提供换脸技术的平台也需要承担责任,因为平台本身也有责任和义务监督用户使用什么材料。

(文中陈岚、杜悦为化名)

您的项目需求

*请认真填写需求信息,我们会在24小时内与您取得联系。