新知榜官方账号
2023-06-29 20:36:27
近年来,人们对AI深度伪造技术受到越来越多的关注,主要集中在视觉和听觉欺骗上。想象下AI换脸的可怕之处,前些年的Deepfake、ZAO技术再到最近的DALL·E2技术,如果不法分子利用这些技术进行诈骗,诱拐等违法行为时,我们又该如何防范?
只需15-30秒的某人的声音,理论上你就可以模仿任何人的声音。AI换声它本身就产生了许多严重的社会问题,就像视频深度伪造行业一样,就目前为止,监管机构对这种造假行为也没有更好的办法。
像KoeRecast和Voice.ai这样的新兴人工智能工具,如果可以提供足够的声源材料进行分析的话,就可以将音频输入转换为任何人声音的能力。在某些情况下,这些程序只需要15到30秒之间的分析及训练即可生成令人信服的模仿。虽然KoeRecast还处于测试阶段,马克·扎克伯格(MarkZuckerberg)利用自己原声进行了分析模仿,效果和本人声音已经无法分辨真假。
KoeRecast的创作者AsaraNear上周在接受采访时告诉记者,他打算未来发布一款桌面应用程序,该应用程序能够在Discord和Zoom等平台上实时转换用户的声音。当被问及不法分子利用KoeRecast进行违法犯罪可能性时,Near认为,“与任何技术一样,既有积极的也有消极的,但我认为绝大多数人类都是由善良的人组成的,并将从中受益匪浅。”不过反对者对此也表示:一些公司的员工、亲朋好友成为了诈骗的受害者,这些骗子冒充领导、朋友或亲人要求汇款,甚至可以利用类似的音频模仿家长进行诱拐儿童。
相关工具
相关文章
相关快讯
推荐
幻舟 AI:动画创作领域的革新力量
2024-12-27 16:06
幻舟 AI:开启纪录片创作新征程
2024-12-27 16:03
幻舟 AI:教育短视频创作的得力助手
2024-12-27 15:59
幻舟 AI:影视创作多领域的创新利器
2024-12-27 15:55
幻舟 AI:影视创作多领域的创新利器
2024-12-27 15:51
幻舟 AI:影视创作的变革引擎
2024-12-27 15:45
中国首款3A游戏上线,《黑神话:悟空》出圈!
2024-08-21 13:46
盘点15款AI配音工具,短视频配音有救了!
2024-08-12 17:11
短视频文案没创意?10大AI写作工具来帮你!
2024-08-05 16:23
Midjourney发布V6.1版本,我已分不清AI和现实了!
2024-08-01 15:03