新知榜官方账号
2023-06-29 20:36:27
近年来,人们对AI深度伪造技术受到越来越多的关注,主要集中在视觉和听觉欺骗上。想象下AI换脸的可怕之处,前些年的Deepfake、ZAO技术再到最近的DALL·E2技术,如果不法分子利用这些技术进行诈骗,诱拐等违法行为时,我们又该如何防范?
只需15-30秒的某人的声音,理论上你就可以模仿任何人的声音。AI换声它本身就产生了许多严重的社会问题,就像视频深度伪造行业一样,就目前为止,监管机构对这种造假行为也没有更好的办法。
像KoeRecast和Voice.ai这样的新兴人工智能工具,如果可以提供足够的声源材料进行分析的话,就可以将音频输入转换为任何人声音的能力。在某些情况下,这些程序只需要15到30秒之间的分析及训练即可生成令人信服的模仿。虽然KoeRecast还处于测试阶段,马克·扎克伯格(MarkZuckerberg)利用自己原声进行了分析模仿,效果和本人声音已经无法分辨真假。
KoeRecast的创作者AsaraNear上周在接受采访时告诉记者,他打算未来发布一款桌面应用程序,该应用程序能够在Discord和Zoom等平台上实时转换用户的声音。当被问及不法分子利用KoeRecast进行违法犯罪可能性时,Near认为,“与任何技术一样,既有积极的也有消极的,但我认为绝大多数人类都是由善良的人组成的,并将从中受益匪浅。”不过反对者对此也表示:一些公司的员工、亲朋好友成为了诈骗的受害者,这些骗子冒充领导、朋友或亲人要求汇款,甚至可以利用类似的音频模仿家长进行诱拐儿童。
相关工具
相关文章
相关快讯
推荐
用Deepseek写AI绘图提示词,像呼吸一样简单!
2025-02-19 16:12
你以为AI绘画是黑科技?其实早成了“路边摊生意”!
2025-02-19 10:15
Flux爆火,全网最全面最详细的Flux使用教程!
2025-02-18 14:19
用AI如何创作音乐,实战教学来啦!
2025-02-17 17:23
MidJourney让你秒变绘画大神,从零开始画哪吒!
2025-02-17 14:56
AI应用新境界:让人工智能成为你的得力助手
2025-02-14 15:45
AI短片革命:当创作遇上智能,人人都能成为导演
2025-02-14 14:53
AI狂潮下的人类职场:是失业危机还是进化契机?
2025-02-13 16:53
开启影视创作新纪元,效率提升 10 倍的神器来了!
2025-02-13 15:11
深度解析DeepSeek:当AI技术照进创作产业的未来
2025-02-12 17:16