AI声音克隆：逝去的记忆复活，法律和伦理问题随之而来

新知榜官方账号

2023-10-02 01:28:25

背景

1970年4月，披头士乐队解散，数百万歌迷们伤心不已。50多年后的今天，人工智能（AI）正在将“逝去的记忆”复活，重新创作和重新想象披头士乐队的演唱。

然而，AI声音克隆得如此逼真也引发了一系列伦理和法律问题，甚至导致了电信诈骗的出现。最新报告显示，2022年澳大利亚人因诈骗损失了创纪录的31亿美元。

电信诈骗

声音克隆易被骗子利用在电信诈骗中，骗子用AI软件扫描语音记录并复制，准确率高达99%。他们可以从社交媒体的视频和其他上传音频中提取片段，将其输入AI软件，重现声音并说出不同短语或句子。

澳大利亚悉尼科技大学电气与数据工程学院副教授迪普·阮晋勇表示，AI模型可以将相对较短的语音片段和字符串片段重建为连贯的句子。有些模型和算法只需一分钟甚至更短时间，就能合成一段相当高质量的克隆声音。阮晋勇表示，先进的AI模型和算法可以很好地合成声音，以至于“普通人很难区分克隆的声音和真实的声音”。

几个月前，亚利桑那州的一个家庭以为接到了绑架电话，电话里的声音听起来与亲人的声音别无二致，结果发现这是一个完全由AI制造的骗局。越来越多骗局的出现让人们担心AI可能成为威胁人们的技术，而且这种技术很容易获得。

音乐领域

AI声音克隆也扩展到音乐领域，人们用该技术创作出与明星的声音完全相同的歌曲。

作曲家、美国斯坦福大学音乐与声学计算机研究中心助理教授帕特里夏·亚历桑德里尼表示，最近大量的AI曲目代表了一项技术的成熟，该技术一直在呈指数级发展，但在过去十年中基本不为公众所关注。然而，AI克隆声音生成音乐的影响是巨大的。随着技术进步，在不久的将来，人们可以利用某款软件很容易地将自己的歌声转换为自己最喜欢的歌手的声音。

AI生成的音乐是一个“灰色地带”。版权如何界定？什么程度的复制才是“合理使用”？又怎么阻止其不合理性使用的扩大化？这在AI时代将受到前所未有的挑战。

本页网址：https://www.xinzhibang.net/article_detail-14777.html

寻求报道，请

关键词

分享至微信：

相关工具

ChatSonic

WriteSonic出品的ChatGPT竞品

Poe

问答社区Quora推出的问答机器人工具

Character.AI

创建虚拟角色并与其对话

Google Bard

Google推出的AI聊天对话机器人Bard

360智脑

360搜索最新推出的AI对话聊天机器人

Replika

AI对话陪伴工具

OpenAI面临分崩离析危机，Claude2.1和StableVideoDiffusion发布，生成式AI大戏仍在继续

过去几天，作为新一轮AI浪潮的领头羊，OpenAI面临一次的分崩离析的重大危机，从董事会宣布辞退创始人兼CEOSamAltman，到回归又被否，期间还经历了多次反转，包括Altman加入微软、员工逼宫、与Anthropic（Claude）合并等。到了北京时间11月22日下午，OpenAI又表示原则上

分类标签 OpenAIClaude2.1StableVideoDiffusionAI浪潮大模型生成式AI

11-23 10:04

如何更好地使用Claude，以及一些使用技巧

如何更好地使用Claude，以及一些使用技巧作为ChatGPT的竞品，Claude有着不俗的实力，同时它也是目前唯一能在国内网络环境下免费使用的国外AI工具。它可以帮助你在各种场合进行聊天、写文章、整理资料和学习知识。下面我们将介绍一些如何更好地使用Claude的技巧：1. 正确的使用方式在使用Cl

分类标签 ClaudeAI工具聊天写文章整理资料学习知识

11-23 10:03

2023年顶级LLM聊天机器人排名

LLM聊天机器人的兴起在2023年，大型语言模型（LLM）的兴起对人工智能领域产生了深远的影响。LLM经过大量文本和代码数据集的训练，可以生成文本、翻译语言、编写不同类型的创意内容，并以信息丰富的方式回答您的问题。其中，聊天机器人是LLM最令人兴奋的应用之一，它是可以模拟与人类对话的计算机程序。20

分类标签 LLM聊天机器人人工智能

10-25 10:21

StabilityAI推出基于Web的聊天界面StableChat

StabilityAI推出基于Web的聊天界面StableChatStabilityAI是图像生成AIStableDiffusion的开发商，其最近推出了开放访问的语言模型StableBeluga的基于Web的聊天界面StableChat。StableBeluga是HuggingFace排行榜上表现

分类标签 StabilityAI语言模型StableBeluga

10-25 10:20

AI独角兽Character.AI谈判筹集数亿美元新资金，估值或达60亿美元

近年来，随着AI技术的不断发展，越来越多的AI独角兽企业正在崛起。其中，生成式AI独角兽企业Character.AI备受关注。据媒体报道，该公司正在进行早期谈判，以筹集数亿美元的新资金，这笔交易可能将这家初创公司的估值推至50亿至60亿美元之间。Character.AI成立于2021年，由前谷歌员工

分类标签 AI独角兽Character.AI生成式AI

10-13 02:52

StabilityAI推出开源大语言模型StableLM，叫板ChatGPT

StabilityAI推出开源大语言模型StableLM，叫板ChatGPT StabilityAI于4月19日推出了开源大语言模型StableLM，挑战ChatGPT。据StabilityAI官网介绍，StableLM的Alpha版本中拥有30亿和70亿参数，后续还将推出150亿至650亿参数的版

分类标签 StabilityAI开源大语言模型StableLMChatGPTStableDiffusion

10-08 03:26

AI创作的版权问题：人类创作力的界定争议

AI创作的版权问题：人类创作力的界定争议AI创作的版权问题引发争议，如何界定人在AI创作过程中所表达的思想和创造力成为争议点。本文通过多个案例说明，AI生成内容是否应受版权保护存在争议，同时介绍了AI音乐在格莱美奖上的提名情况以及AI生成音乐带来的侵权问题。AI创作的版权争议案例艺术家Jason A

分类标签 AI版权问题创作力人工智能艺术音乐

10-02 01:26

AI独角兽Character.AI正在进行数亿美元的新融资，估值或将达到60亿美元

近日，生成式AI独角兽企业Character.AI正在进行早期谈判，以筹集数亿美元的新资金。据报道，本次交易可能将这家初创公司的估值推至50亿至60亿美元之间。Character.AI是生成式AI领域的早期宠儿，吸引了大量投资者的兴趣。今年3月份，Character.AI完成了一笔1.5亿美元的融资

分类标签 AI独角兽Character.AI新融资

09-29 23:02

HuggingFace发布人工智能聊天机器人HuggingChat，成为OpenAI的竞争对手

4月30日消息，据外媒报道，人工智能公司HuggingFace发布了HuggingChat，这是OpenAI流行的人工智能聊天机器人ChatGPT的开源竞争对手。HuggingChat现在可以通过该公司的网站向公众开放，它可以通过HuggingFace应用程序编程接口与第三方应用程序和服务连接。Hu

分类标签 HuggingFaceHuggingChatOpenAI

09-21 17:18

推荐2个最好用的AI导航网址

推荐2个最好用的AI导航网址在AI时代，AI工具越来越多，如何找到最适合自己的工具成为了一项重要任务。在这里，我们为大家推荐2个最好用的AI导航网址。1. AI工具集导航AI工具集导航是一个集合500+AI工具和AI工具箱的网站，包括国内外的AI工具集合。该网站提供了丰富的AI工具资源，让人们可以方

分类标签 AI工具集导航自媒体家园AI工具自媒体人资源技能提升

09-20 23:34

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway