新知榜官方账号
2023-10-26 10:03:21
近日美国女歌星霉霉(泰勒·斯威夫特)说中文的短视频火遍全网,视频中霉霉操着一口流利地道的中文,神情自若几乎没有早期,译制片女主角的那种腔调口型也能对得上。还有一段马斯克采访视频中马斯克流畅地用法语向媒体侃侃而谈,阐述他对于AIl威胁的看法:不仅音色、语气以假乱真,就连口型也毫无破绽。
HeyGenAI型同步短视频内容翻译:用户使用HeyGen制作了马斯克,梅西和扎克伯格用多种外语讲话的片段要达到视频中的效果,需要同时满足三个条件:地道的口语翻译、克隆说话者的声音和替换嘴型。声音克隆通过上传少量音频样本生成与原音色极为接近的声音。口型同步通过TTS(TextToSpeech)等技术实现,而且目前的TTS技术已向个性化TTS向情感TTS发展,这使AI配音更生动富于情绪变化,以消除冷冰冰不自然的机械感。
现介绍其它同类AI工具:
AIDubbing结合了ElevenLabs的多语言语音合成。声音克隆文本和音频处理技术可以把任意一段音频或者视频快速翻译为包括中文、日语等在内的29种语言,同时保留原语音者的音色特征和情感。操作简单还可以粘贴YoutubeTikTokX(Twitter)Vimeo以及任意视频的链接进行创建,开始音频克隆预览效果。在高级选项中还可以选择原视频中的人物数量、视频质量以及其他设置主要特点:
由Headof成开发成立于2021年。目前LipDub支持28种语言可以识别讲话人的唇部动作。在配音翻译中加入口型匹配功能。LipDub能够准确识别视频中的语音。使用GPT-4将其翻译成其他语言,并使用"zero-shotmodel(零样本模型)"算法将翻译后的语音与视频人物的口型进行匹配。使用简单上传一段视频选择目标语言,获得带有新语音和口型同步的翻译视频。
和LipDub和HeyGen一样。Verbalate可将用户的视频配音成目标语言。不同之处在于Verbalate可处理长达30分钟的视频。Verbalate创始人Hair·成立该平台最初的想法是出于疫情期间澳大利亚封锁期间的无聊。
更多人工智能领域讯息,敬请关注公众号"AI时代2023"。
相关工具
相关文章
推荐
幻舟 AI:动画创作领域的革新力量
2024-12-27 16:06
幻舟 AI:开启纪录片创作新征程
2024-12-27 16:03
幻舟 AI:教育短视频创作的得力助手
2024-12-27 15:59
幻舟 AI:影视创作多领域的创新利器
2024-12-27 15:55
幻舟 AI:影视创作多领域的创新利器
2024-12-27 15:51
幻舟 AI:影视创作的变革引擎
2024-12-27 15:45
中国首款3A游戏上线,《黑神话:悟空》出圈!
2024-08-21 13:46
盘点15款AI配音工具,短视频配音有救了!
2024-08-12 17:11
短视频文案没创意?10大AI写作工具来帮你!
2024-08-05 16:23
Midjourney发布V6.1版本,我已分不清AI和现实了!
2024-08-01 15:03