全网AI资源网站搭建

电脑端+手机端+微信端=数据同步管理

免费咨询热线:13114099110

换脸软件刷屏后隐私焦虑升温:销号声四起,风险或在远程存照

发布时间:2023-11-15 11:04   浏览次数:次   作者:派坤优化

换脸软件刷屏后隐私焦虑上升:销售报告无处不在明星合成网站,风险可能是照片远程存储

8月30日正式上线。截至8月31日14:00,《ZAO》已跃升至苹果应用商店免费应用下载排行榜第二位。 其受欢迎程度可见一斑。

然而,8月31日晚,不少网友聚集在“ZAO”官方微博上,要求注销账号、删除本地人脸。 截至9月1日0时,《ZAO》在苹果应用商店的评分从此前的4.6分下降至2.2分。

其迅速走红和巨大争议的背后,是网友对个人隐私安全的担忧。

“‘ZAO’从用户那里获取的信息主要是人像图片,从技术角度来看,它并不比其他上传照片的应用带来更大的风险,但‘ZAO’需要更多的用户肖像使用授权。这意味着用户将面临更多风险。” 集邦实验室安全研究员宋宇浩告诉澎湃新闻()。

色情是科技的起源

“网站上发现了一群名人合成色情视频,让所有人都意识到了这项技术。” 暨江实验室安全研究员宋宇浩告诉澎湃新闻。

所谓AI换脸技术,就是基于人工智能的人体图像合成技术生成的假脸(俗称)。 当这项技术于 2017 年底首次在网站上亮相时,引起了轰动,让名人的头像出现在色情演员的身上。 尽管帐户和相关群组已被封锁,并且.com和等网站上的相关搜索已被禁止,但它从未真正消失。 这项技术的代码是开源的,让越来越多的人开始制作类似的视频。

8月31日,《ZAO》的上映,让业内人士再次关注这项技术的可控性。 宋宇浩进一步向澎湃新闻记者解释,AI换脸有两个关键步骤,人脸提取和人脸转换。 人脸提取是从照片中勾勒出人脸的轮廓,并标记出眼睛、鼻子等关键部位明星合成网站,从而明确图片中需要替换的物体。 人脸变换最常用的实现方法是称为“自动编码器”的深度学习模型。 通过学习替换两张脸的照片,训练了一个“编码器”和两个“解码器”。

换脸软件刷屏后隐私焦虑升温:销号声四起,风险或在远程存照(图1)

“编码器有能力从人脸图像中抽象出表情和动作特征,解码器有能力将这些特征还原到目标人的人脸图像中。例如,编码器使用A的人脸图像从视频中提取面部表情,然后用B的解码器将这些面部表情还原成面部图像,就可以成功地用B的脸替换A的脸了。” 宋宇豪说道。

远程保存用户脸部私密照片存在担忧

指纹、虹膜、人脸等生物识别信息可能是比身份证号、手机号码更重要的个人隐私。 2019年7月,中国人民银行科技司司长李伟在第四届全球金融科技峰会上表示,人脸是非常敏感的个人信息,一旦泄露,会产生非常大的影响。

全国政协委员、拍昆创始人谭剑锋2019年3月表示,他不使用指纹解锁或人脸解锁,他的手机有密码保护。 “密码丢失可以修改,但生物识别信息是不可更新的,一旦泄露,你就不可能拥有第二张脸。”谭剑锋说。

如此重要的面部信息正在被“ZAO”收集。 澎湃新闻记者发现,ZAO用户协议中必要的授权协议描述如下:用户上传发布内容后,即表示同意授予ZAO及其关联公司和ZAO用户“完全免费、不可撤销、永久、全球范围内可再许可和再许可的权利”,“包括但不限于修改和编辑全部或部分用户内容的能力(例如在短视频中改变面孔或声音、改变另一个人的面孔或声音等)以及信息网络传播的用户内容修改前后,以及《著作权法》规定的著作权人享有的一切著作权财产权和邻接权。

“‘ZAO’从用户那里获取的信息主要是人像图片,从技术角度来看,它并不比其他上传照片的应用带来更多的风险,但‘ZAO’需要更多的用户肖像使用授权。这意味着用户将会面临更多的风险。” 宋宇豪告诉澎湃新闻。

与此同时,另一位不愿透露姓名的安全专家也向澎湃新闻记者指出,“风险不是换脸,而是App是否远程保存了用户的脸部私密照片,因为没有人知道保存这些照片后会发生什么。”个人肖像。 目的。 如果平台存储或使用不当,很可能被恶意分子利用,如冒充注册等,给用户造成损失。”

2018年5月1日,《个人信息安全规范》正式实施。 《规范》指出,个人基因、指纹、声纹、掌纹、耳廓、虹膜、面部识别特征等个人生物特征信息属于个人敏感信息。 对于此类敏感信息,《规范》在收集前必须获得个人信息主体的明确同意。 在存储方面,需要去标识化,存储时间必须符合最短要求时间。 在信息传输过程中也必须采取高度的安全预防措施。

换脸软件刷屏后隐私焦虑升温:销号声四起,风险或在远程存照(图2)

尽管有相关规定,但在澎湃新闻记者采访中不难发现,企业对安全的重视更多是基于“意识”。 “数据的保护有多强,取决于你愿意在安全上投入多少成本。大公司有自己的安全底线,小公司可以想象得到。” 上述安全专家表示。

支付宝回应称不会威胁刷脸支付

AI换脸会让刷脸支付变得不安全吗? 8月31日,蚂蚁金服回应澎湃新闻记者称,这不是互联网上第一个换脸应用,也肯定不会是最后一个,但无论怎么改,都不用担心。关于支付宝刷脸支付的安全性。

据了解,人脸识别支付采用的是3D人脸识别技术。 在人脸识别之前,会通过软件和硬件结合的方式进行检测,以确定采集到的人脸是否是由照片、视频或软件模拟生成的。 可以有效避免各种人脸伪造造成的身份盗用。 支付宝还通过多种安全风控策略保证账户安全。 例如,面部识别支付功能需要用户激活。 激活后才可以付款。 用户也可以随时关闭,输入密码后才能在支付宝App上激活刷脸支付功能。 刷脸支付。

在支付宝App上,人脸识别并不是唯一的验证方式。 支付宝的智能风控引擎将通过设备、环境等多重因素辅助验证。 部分用户还需要输入账户绑定的手机号码和验证码进行验证,进一步提高安全性。 即使万一账户被盗用,支付宝也会通过保险公司全额赔偿。

此外,蚂蚁金服相关人士表示,支付宝一直呼吁生物识别领域的行业自律,并于8月23日发起“生物识别用户隐私与安全保护倡议”,呼吁从事该行业的科技公司加入进来,规范和保护用户信息。

在本次《生物识别用户隐私与安全保护倡议》中,支付宝呼吁企业在收集用户生物识别信息时遵循“最少、充分”的原则,防止滥用。 企业应对收集到的信息进行加密存储,提高安全性。 明确和规范用户信息的使用目的和范围,避免信息过度使用。 此外,在具体使用过程中还应建立保险机制,确保用户资金不丢失。

8月31日晚,“ZAO”修改了此前的用户协议,删除了“免费使用用户肖像权”的内容。 协议一开始就增加了“特别提醒”,表示用户上传的短视频、人脸等相关内容将严格按照相关法律法规的规定保留在“ZAO”上。 “ZAO”声明,“ZAO”不会以任何其他形式或目的使用上述内容,除非是为了改进“ZAO”提供的服务或以其他方式再次征得用户同意。

您的项目需求

*请认真填写需求信息,我们会在24小时内与您取得联系。