全网AI资源网站搭建

电脑端+手机端+微信端=数据同步管理

免费咨询热线:13114099110

电商平台不法分子兜售女明星AI换脸视频涉嫌名誉侵权

发布时间:2023-11-14 11:06   浏览次数:次   作者:派坤优化

AI(人工智能)换脸软件流行的风险之一是该软件可能被不法分子滥用。

9月3日晚,记者在二手交易平台闲鱼App上发现,多名卖家利用AI换脸技术制作当红女明星的不雅视频出售。

一位卖家告诉澎湃新闻,他有100个视频,其中包括30多位名人。 另一位类似卖家称,75元的套餐中包含40多位女明星的数百段AI换脸视频。

北京志林律师事务所副主任、中国政法大学知识产权研究中心特约研究员赵占占律师告诉澎湃新闻,这种出售明星换脸不雅视频的行为无疑构成肖像侵权,还涉嫌构成损害名誉权。 还涉嫌构成刑事犯罪,即传播淫秽物品牟利罪。 情节严重的,可以判处无期徒刑。

澎湃新闻咨询闲鱼工作人员,得到回应称,平台对违反公序良俗的商品始终采取零容忍态度,将对违规行为进行严厉处罚。

不法分子在电商平台出售女明星AI换脸视频

两年前国外出现AI换脸技术时,曾一度“用来给色情女主角换脸”。

2017年12月,AI换脸技术在海外出现时,这项名为“”的技术被少数懂技术的人用来给色情女主角换脸。 后来,随着桌面应用程序的出现,普通网民可以轻松制作假换脸视频,假脸视频开始在网络上广泛流传。 这已经在海外引起争议。

目前,“ZAO”和言几App已经攻克了国内市场的AI换脸技术,使换脸从专业走向普及,实现一键换脸。 这让一些不法分子看到了赚钱的机会。

9月3日晚,澎湃新闻记者在二手交易平台闲鱼App上发现明星合成网站,有多名卖家利用AI换脸技术制作当红女明星的不雅视频出售。

一位卖家提出在QQ或微信上进行交易,并告诉澎湃新闻,明星换脸合成情景图的价格如下:一星30元,二星40元明星合成网站,三星50元,具体取决于每个明星的照片数量不同,大部分都在300张左右。 此外,他还有100个视频,其中包括30多位名人。 “他们都很受欢迎,有的明星多,有的明星少,”他说。

澎湃新闻记者询问卖家是否可以尝试一下,但卖家表示不能,并发来了一些文件名极其明确的数据库截图。

另一位类似卖家给出了报价:75元的套餐包含40多位女明星的数百部AI换脸视频,而99元的套餐则可以“永久观看网络上的任何资源”。

对此,澎湃新闻咨询了闲鱼相关人员。 对方向澎湃新闻表示,对于违反公序良俗的产品一直采取零容忍态度,并将严厉处罚违规行为。 同时,在平台处理的基础上,闲鱼还将向执法部门举报涉嫌发布违法信息的账户,协助线下溯源打击,追查其背后的黑灰生产团伙。

今年3月20日,在浙江省网信办指导下,闲鱼在互联网行业牵头开展为期三个月的专项治理行动,用最严厉的手段,严厉打击各类涉嫌违法信息。违反公共秩序和良好风俗的行为。

闲鱼相关人员表示,闲鱼呼吁公众积极向平台举报违规行为,共同净化网络社会环境。

电商平台不法分子兜售女明星AI换脸视频涉嫌名誉侵权(图1)

利用AI换脸技术传播淫秽物品牟利的可判处无期徒刑

赵占占律师告诉澎湃新闻,上述出售明星换脸不雅视频的行为涉及两个法律问题。 首先是形象侵权。 根据法律规定,擅自以营利为目的使用他人肖像的行为,属于侵犯他人肖像权的行为。 因此,将色情视频换成明星脸然后出售,无疑构成肖像侵权。

“其次,这种做法也侵犯了明星的名誉权,因为他的做法可能会导致一些人误认为这是明星本人主演的色情电影。因此,会降低其社会评价,所以这种行为也涉嫌构成名誉侵权。” 赵展说道。

不仅如此,赵占占表示,这一行为不仅涉及上述两项民事侵权行为,还涉嫌构成刑事犯罪。 以营利为目的传播淫秽物品罪,情节严重的可判处无期徒刑。 “因此,一旦认定传播淫秽物品罪构成营利罪,那么犯罪嫌疑人的责任就很重。根据刑法第三百六十三条第一款的规定犯本罪的,处三年以下有期徒刑、拘役或者管制,并处罚金;情节严重的,处有期徒刑处三年以上十年以下有期徒刑,并处罚金;情节特别严重的,处十年以上有期徒刑或者无期徒刑。罚款或没收财产。”

赵展表示,“至于具体量刑,跟其具体行为有关,包括通讯范围、通讯数量、金额等。”

协商不成,被侵权明星可提起诉讼

北京市法学会电子商务法律研究会会长邱宝昌律师向澎湃新闻指出,对于肖像权、名誉权受到AI换脸技术侵害的明星,可以采取相应的法律措施维护他们的权利。

“第一,你可以要求停止侵权。第二,你可以要求赔偿损失。精神损失和经济损失都可以要求赔偿。第一,你可以要求赔偿。如果协商不成,你可以起诉”。

在中国裁判文书网搜索“肖像权”显示,不少当红明星都曾参与维护肖像权。 其中,涉及范冰冰肖像权保护的文件84份,涉及杨颖肖像权保护的文件29份,涉及杨幂肖像权的文件5份。 但大多数都是利用名人肖像做广告以谋取利益的案例。 截至目前,尚未发现利用AI换脸技术侵犯肖像权的案例。

澎湃新闻就名人肖像权保护问题咨询了多位明星工作室相关人员,他们均表示,目前没有遇到过AI换脸侵犯肖像权的案例。

电商平台不法分子兜售女明星AI换脸视频涉嫌名誉侵权(图2)

普通人面部信息泄露引起监管关注

那么,普通人的照片信息被收集后,是否有被制作成色情视频的可能呢? 此前,有报道称,在一些电商平台上,有卖家表示可以提供视频定制换脸产品。 买家只需提供一些被换脸的人的照片,卖家就可以将照片中的人脸“转移”到特定视频中的特定人身上。

虽然目前闲鱼上的上述卖家并没有提供此类服务,但这并不意味着将照片中的人脸“转移”给特定视频中的特定人的服务不存在。

对于最近流行的“ZAO”,赵展律师认为,确实存在用户面部信息被泄露的风险。

“在‘​​ZAO’软件中,你必须上传头像,然后进行身份验证,然后才能将你的换脸视频分享给其他人。所以身份验证的过程就是识别用户的脸部。至少在这个过程中,他必须会收集人脸信息数据,但是否会保存还不得而知。因为现在是它自己单方面的声明,所以我们无法判断。但不能排除它存储了用户面部特征数据的可能性。”

赵展还指出:“如果它存储这些数据,确实会有风险。有两个风险。第一是它保管不当,导致数据泄露,其他人利用这些数据从事违法犯罪活动。”另一种是它本身将这些数据用于非法目的。”

9月4日,“ZAO”App因用户隐私协议不规范以及数据泄露风险等网络数据安全问题,被工信部约谈。

尽管9月3日,“ZAO”公开道歉,称不会存储个人面部生物识别信息,且不存在支付风险。 但仍有不少网友聚集在“ZAO”微博下,要求注销账号、终止肖像授权。

值得一提的是,9月4日上午,“ZAO”的自动回复是一张指令图片,指示用户删除面孔并退出帐户。

您的项目需求

*请认真填写需求信息,我们会在24小时内与您取得联系。