AI换声技术引发热议,边界亟待明确

新知榜官方账号

2023-11-10 16:38:15

AI换声技术引发热议

近期,多个国内外明星被AI(人工智能)换声的视频在网络上爆火,再次引发公众对AI技术的热议。无论是AI换声还是换脸,新技术的使用边界亟待明确,其背后的侵权、诈骗等隐忧更不容忽视。

飙外语以假乱真

在一条播放量达百万次的短视频中,相声演员郭德纲用英文说着《济公传》,视频里的声音不仅和郭德纲本人的音色没有什么出入,嘴型和英文发音也一一对应,着实难辨真假。这段精彩的单口相声秀引得网友发出惊叹。除了本土名人说英文,外国歌星泰勒·斯威夫特、演员艾玛·沃森等在访谈节目中用中文对答如流的视频,也引来网友围观。

AI换声的原理

无论声音还是图像,都可以通过特定的数学变换分解成若干个特征向量,对每个向量赋予特定的一组参数,就可以形成特定的声音或图像。所谓AI换声,就是通过机器学习的方法,用某个人以往的声音作为样本进行学习,从而给声音的每个特征向量赋予特定的参数,之后再用这组参数读出新的内容,就可以做到语音、语气甚至情感的模仿了。不过,要想达到逼真的效果,除了换声以外,还需要地道的翻译、局部篡改人脸信息对口型等多个步骤后才能实现。

AI换声网站走红背后存争议

随着巨大流量涌入AI换声视频,其背后的公司也浮出水面,其中包括海外上线的AI换声网站HeyGen。该网站已推出免费版和付费版两种版本,其中,付费版最低收费为每月24美元,免费版仅限于生成1分钟时长视频。然而,HeyGen也面临着争议与热度齐飞。由于HeyGen用户可以将任何人的视频上传并换声,这可能涉嫌著作权、肖像权、声音权三个方面的侵权。

加强治理谨防技术滥用

面对炉火纯青的AI生成技术,更有网友提出,一旦相关技术被用于网络诈骗,后果将难以想象。为此,国内外均有安全机构尝试研发技术手段来识别AI换脸或AI换声。目前国家网信办等三部门已联合发布《互联网信息服务深度合成管理规定》,要求深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识。

本页网址:https://www.xinzhibang.net/article_detail-19580.html

寻求报道,请 点击这里 微信扫码咨询

关键词

AI换声 侵权 诈骗

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯