AI换脸软件Avatarify火爆全网,涉及隐私安全问题被下架

新知榜官方账号

2023-11-29 08:35:16

1. 蚂蚁呀嘿,Avatarify火爆全网

在微信朋友圈、微博、抖音等社交媒体平台,火爆全网的AI换脸软件Avatarify通过“蚂蚁呀嘿”特效走红,许多网友都将自己的照片导入这款软件中,生成一段跟着节奏晃动的视频。

Avatarify通过AI换脸技术让图片动起来,为网友带来新奇好玩的娱乐体验。这款软件早在去年7月就已经上线,但一直不温不火,直至“蚂蚁呀嘿”特效蹿红后,才带火了这款软件。

2. Avatarify涉及隐私安全问题被下架

然而,Avatarify在火爆了不到一周后,就在3月2日从Appstore下架了。虽然官方未给出具体下架原因,但业界猜测该款软件可能涉及隐私安全等问题。

据中国商报,目前的换脸技术与国外一款开源的AI换脸软件deepfake极为相似。这项技术在带来创新体验的同时,也存在被滥用甚至侵害他人权益等额外风险,这也是Avatarify和ZAO引发质疑的共同原因。因此,围绕换脸技术的安全问题不可回避。

3. 相关规定对Avatarify等软件提出要求

为了规范网络音视频信息服务,国家网信办、文旅部和广电总局等三个部门发布了《网络音视频信息服务管理规定》。其中明确了“利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的应当及时采取相应的辟谣措施”等针对换脸技术的新规定。规定同时指出,利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识。且不得利用该技术“制作、发布、传播虚假信息”。此外,规定还强调,不得利用相关的音视频技术“侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益”。

换脸技术的安全问题牵涉到用户的个人信息安全问题,也引起了有关部门的重视。个人信息保护法草案已经提请全国人大常委会审议,对保护个人信息安全将发挥重要作用。

本页网址:https://www.xinzhibang.net/article_detail-21380.html

寻求报道,请 点击这里 微信扫码咨询

关键词

Avatarify AI换脸 隐私安全

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯