AI配音:让你的视频说全世界的话

新知榜官方账号

2023-10-26 10:03:21

AI配音:让你的视频说全世界的话

近日美国女歌星霉霉(泰勒·斯威夫特)说中文的短视频火遍全网,视频中霉霉操着一口流利地道的中文,神情自若几乎没有早期,译制片女主角的那种腔调口型也能对得上。还有一段马斯克采访视频中马斯克流畅地用法语向媒体侃侃而谈,阐述他对于AIl威胁的看法:不仅音色、语气以假乱真,就连口型也毫无破绽。

HeyGenAI型同步短视频内容翻译:用户使用HeyGen制作了马斯克,梅西和扎克伯格用多种外语讲话的片段要达到视频中的效果,需要同时满足三个条件:地道的口语翻译、克隆说话者的声音和替换嘴型。声音克隆通过上传少量音频样本生成与原音色极为接近的声音。口型同步通过TTS(TextToSpeech)等技术实现,而且目前的TTS技术已向个性化TTS向情感TTS发展,这使AI配音更生动富于情绪变化,以消除冷冰冰不自然的机械感。

现介绍其它同类AI工具:

  1. AIDubbing

    AIDubbing结合了ElevenLabs的多语言语音合成。声音克隆文本和音频处理技术可以把任意一段音频或者视频快速翻译为包括中文、日语等在内的29种语言,同时保留原语音者的音色特征和情感。操作简单还可以粘贴YoutubeTikTokX(Twitter)Vimeo以及任意视频的链接进行创建,开始音频克隆预览效果。在高级选项中还可以选择原视频中的人物数量、视频质量以及其他设置主要特点:

    • 本土化。能根据目标语言的文化和习惯进行本地化,使其更加贴近当地听众。
    • 去噪功能。能够区分背景音乐和噪音与对话,从而去除背景噪音。
    • 快速处理。在几秒钟内完成视频内容的语音翻译和配音。
    • 高质量音频:AI生成的音频轨道旨在听起来自然和真实。
  2. liftupLipDub

    由Headof成开发成立于2021年。目前LipDub支持28种语言可以识别讲话人的唇部动作。在配音翻译中加入口型匹配功能。LipDub能够准确识别视频中的语音。使用GPT-4将其翻译成其他语言,并使用"zero-shotmodel(零样本模型)"算法将翻译后的语音与视频人物的口型进行匹配。使用简单上传一段视频选择目标语言,获得带有新语音和口型同步的翻译视频。

  3. Verbalate

    和LipDub和HeyGen一样。Verbalate可将用户的视频配音成目标语言。不同之处在于Verbalate可处理长达30分钟的视频。Verbalate创始人Hair·成立该平台最初的想法是出于疫情期间澳大利亚封锁期间的无聊。

更多人工智能领域讯息,敬请关注公众号"AI时代2023"。

本页网址:https://www.xinzhibang.net/article_detail-18034.html

寻求报道,请 点击这里 微信扫码咨询

关键词

AI配音 口型同步 音色克隆

分享至微信: 微信扫码阅读

相关工具

相关文章