新知榜官方账号
2023-11-29 08:35:16
在微信朋友圈、微博、抖音等社交媒体平台,火爆全网的AI换脸软件Avatarify通过“蚂蚁呀嘿”特效走红,许多网友都将自己的照片导入这款软件中,生成一段跟着节奏晃动的视频。
Avatarify通过AI换脸技术让图片动起来,为网友带来新奇好玩的娱乐体验。这款软件早在去年7月就已经上线,但一直不温不火,直至“蚂蚁呀嘿”特效蹿红后,才带火了这款软件。
然而,Avatarify在火爆了不到一周后,就在3月2日从Appstore下架了。虽然官方未给出具体下架原因,但业界猜测该款软件可能涉及隐私安全等问题。
据中国商报,目前的换脸技术与国外一款开源的AI换脸软件deepfake极为相似。这项技术在带来创新体验的同时,也存在被滥用甚至侵害他人权益等额外风险,这也是Avatarify和ZAO引发质疑的共同原因。因此,围绕换脸技术的安全问题不可回避。
为了规范网络音视频信息服务,国家网信办、文旅部和广电总局等三个部门发布了《网络音视频信息服务管理规定》。其中明确了“利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的应当及时采取相应的辟谣措施”等针对换脸技术的新规定。规定同时指出,利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识。且不得利用该技术“制作、发布、传播虚假信息”。此外,规定还强调,不得利用相关的音视频技术“侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益”。
换脸技术的安全问题牵涉到用户的个人信息安全问题,也引起了有关部门的重视。个人信息保护法草案已经提请全国人大常委会审议,对保护个人信息安全将发挥重要作用。
相关工具
相关文章
相关快讯
推荐
中国首款3A游戏上线,《黑神话:悟空》出圈!
2024-08-21 13:46
盘点15款AI配音工具,短视频配音有救了!
2024-08-12 17:11
短视频文案没创意?10大AI写作工具来帮你!
2024-08-05 16:23
Midjourney发布V6.1版本,我已分不清AI和现实了!
2024-08-01 15:03
我发现了一款国产AI绘画神器,免费易上手!
2024-07-25 16:40
7位AI考生做今年高考题,能过一本线吗?
2024-07-19 17:17
世界上第一所AI学校来了,80亿人只需要1位老师?
2024-07-18 17:12
Sora首部AI广告片上线,广告从业者危险了!
2024-06-27 13:44
OpenAI与中国说拜拜,国产AI如何接棒?
2024-06-26 15:18
人与AI会产生爱情吗,专家发话了!
2024-06-17 17:28