AI孙燕姿这么快翻唱了这么多首歌,到底是咋实现的?

新知榜官方账号

2023-07-03 15:58:33

多亏了一个开源项目

这个项目名叫SoftVCVITSSingingVoiceConversion(歌声转换)。它提供了一种音色转换算法,采用SoftVC内容编码器提取源音频语音特征,然后将矢量直接输入VITS,中间不转换成文本,从而保留了音高和语调。此外,还将声码器改为NSFHiFiGAN,可以解决声音中断的问题。

具体分为以下几步:

  1. 预训练模型
  2. 准备数据集
  3. 预处理
  4. 训练
  5. 推理

其中,预训练模型这步是关键之一,因为项目本身不提供任何音色的音频训练模型,所以如果你想要做一个新的AI歌手出来,需要自己训练模型。而预训练模型的第一步,是准备干声,也就是无音乐的纯人声。得到处理好的音频后,需要进行一些预处理操作。比如音频太长容易爆显存,需要对音频切片,并自动将数据集划分为训练集和验证集,生成配置文件。再生成Hubert和f0。接下来就能开始训练和推理了。

项目贡献者和使用门槛

这个项目在今年3月上线,目前贡献者有25位。从贡献用户的简介来看,很多应该都来自国内。据说项目刚上线时也有不少漏洞并且需要编程,但是后面几乎每一天都有人在更新和修补,现在的使用门槛已经降低了不少。目前项目已经停止更新了,但还是有一些开发者创建了新的分支,比如有人做出了支持实时转换的客户端。

训练数据也同样关键,越多高质量音频,就意味着最后效果可以越好。但是在使用时需要注意版权问题,因使用未经授权的数据集进行培训而产生的任何问题及其一切后果,由您自行承担责任。

AI翻唱的前景和争议

AI翻唱趋势不仅是AI孙燕姿唱的歌越来越多,AI歌手的范围也在扩大。但是随之而来的争议是版权问题,因为AI生成内容的最初数据取材于人类作品。有些人选择拥抱这项技术,而有些人则担心版权问题。

本页网址:https://www.xinzhibang.net/article_detail-4943.html

寻求报道,请 点击这里 微信扫码咨询

关键词

AI翻唱 so-vits-svc 音色转换

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯