AI换声技术引热议：应用边界亟待明确，侵权、诈骗等隐忧不容忽视

新知榜官方账号

2023-11-10 16:30:16

AI换声技术引热议

多个国内外明星被AI(人工智能)换声的视频近日在网络上爆火，再次引发公众对AI技术的热议。无论是AI换声还是换脸，新技术的使用边界亟待明确，其背后的侵权、诈骗等隐忧更不容忽视。

AI换声技术原理

无论声音还是图像，都可以通过特定的数学变换分解成若干个特征向量，对每个向量赋予特定的一组参数，就可以形成特定的声音或图像。所谓AI换声，就是通过机器学习的方法，用某个人以往的声音作为样本进行学习，从而给声音的每个特征向量赋予特定的参数，之后再用这组参数读出新的内容，就可以做到语音、语气甚至情感的模仿了。不过，要想达到逼真的效果，据业内人士介绍，除了换声以外，还需要地道的翻译、局部篡改人脸信息对口型等多个步骤后才能实现。

HeyGen换声网站走红背后存争议

随着巨大流量涌入AI换声视频，其背后的公司也浮出水面——2022年7月在海外上线的AI换声网站HeyGen。从如今各大社交平台上爆火的换声短视频自带的水印来看，其中有不少由该网站生成。然而，与此前的爆款AI应用妙鸭相机一样，HeyGen也面临着争议与热度齐飞。有律师提出，由于HeyGen用户可以将任何人的视频上传并换声，这可能涉嫌著作权、肖像权、声音权三个方面的侵权。

加强治理谨防技术滥用

面对炉火纯青的AI生成技术，更有网友提出，一旦相关技术被用于网络诈骗，后果将难以想象。虽然绝大多数的传统防骗技巧对于AI诈骗同样有效，但仍需加强治理，谨防技术滥用。国内外均有安全机构尝试研发技术手段来识别AI换脸或AI换声。以清华大学人工智能研究院孵化企业瑞莱智慧推出的能够防范生成式人工智能恶意滥用的DeepReal2.0技术为例，其相关技术能够用于打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等，可对生成式人工智能技术滥用行为进行管控和治理。

本页网址：https://www.xinzhibang.net/article_detail-19573.html

寻求报道，请

关键词

分享至微信：

相关工具

Alpaca

将生成式AI集成到Photoshop图像设计中

Logomaster.ai

AI Logo生成工具

Microsoft Designer

微软推出的在线设计海报和宣传图工具

Luma AI

AI 3D捕捉、建模和渲染

稿定AI

一站式AI创意工具集合，AI绘图、场景生成，商品合成

illostrationAI

AI插画生成，low poly、3D、矢量、logo、像素风、皮克斯等风格

医疗IT面临挑战，赛灵思自适应计算加速平台解决方案引领行业发展

医疗IT面临挑战，赛灵思自适应计算加速平台解决方案引领行业发展科技升级，重金引入，医疗信息化进程在2020年迎来了一个前所未有的高潮。IDC预测，中国医疗行业IT总支出548亿，增长11.5%，预计到2024年将超过1000亿，年均复合增长率超过13%。长期以来，随着医疗设备的升级，医疗对放射学、病

分类标签医疗IT赛灵思自适应计算加速平台

12-05 16:13

四个常见的XR原型设计工具分享

四个常见的XR原型设计工具分享随着XR技术的不断发展，XR产品经理需要使用专门的工具来进行空间交互设计。本文分享了四个常见的XR原型设计工具：Beze、ShapesXR、Spline、GravitySketch3D。为什么XR设计需要专门的工具XR设计与传统的2D设计流程不同，需要使用独特的方法来探

分类标签 XR原型设计工具空间交互设计

12-05 16:12

AI与效果图行业：开启新的视觉时代

AI与效果图行业：开启新的视觉时代随着人工智能(AI)技术的快速发展，它已经在许多行业中找到了应用，其中效果图行业尤为引人注目。效果图是建筑设计和工程领域中非常重要的工具，它能够以直观的方式呈现设计理念和成果，而AI的应用正在改变效果图行业的生产方式、管理方式和创新方式。AI在效果图生成方面展现出了

分类标签人工智能效果图深度学习

12-05 16:11

如何为AI产品设计用户体验？

如何为AI产品设计用户体验？最近有一个思考：AI时代，手机交互由于有很多范式，很可能被AI取代；但同时，随着科技的发展还会有许多新的产品出现，例如：AR、VR、AI助手，这些产品本身也需要交互设计。今天就跟大家分享Medium上关于如何为AI产品设计用户体验的文章。以下为译文：随着AI（人工智能）的

分类标签 AI产品用户体验设计交互设计

11-18 04:20

新的AI技术可以制作出假视频，Deepfake技术越来越逼真

新的AI技术可以制作出假视频，Deepfake技术越来越逼真如果你四肢非常不协调，但又希望有个机会跳出一段动感的舞蹈，有什么办法可以实现这个愿望？最新的AI技术或许能祝你一臂之力。而且，只需要提供一张全身照片，你就可以成为下一代舞王了。据Futurism报道，最近英伟达的研究团队在一篇论文里公布了他

分类标签 AI技术假视频Deepfake

11-12 10:01

深度合成技术：新技术带来的风险与挑战

深度合成技术：新技术带来的风险与挑战随着人工智能（AI）深度合成技术的日益精湛，越来越多的人遇到过这样的情况：我们明明身处某地，但就在同一时刻，我们的脸、表情和姿态却出现在一些手机App后台、支付界面、门禁闸机，被人盗刷并被用来牟利。公安部门近年来在上海、浙江、安徽、江苏等地办案发现，多名犯罪嫌疑人

分类标签深度合成技术人工智能监管要求

11-12 10:00

NVIDIA LaunchPad计划扩大全球覆盖区域，提供AI测试和原型设计

NVIDIA LaunchPad计划扩大全球覆盖区域，提供AI测试和原型设计NVIDIA宣布扩大NVIDIA LaunchPad计划在全球的覆盖区域。该计划可即时访问运行在加速过的基础设施上的优化软件，从而通过一组经过甄选的样例实验对数据科学和AI工作负载进行原型设计和测试。LaunchPad主要提

分类标签 NVIDIALaunchPad计划AI工作流数据科学

11-08 08:52

虚拟数字人的分类及应用场景

虚拟数字人的分类及应用场景随着时代的进展，科技的发展速度也是越来越快。而虚拟数字人这一概念的最早起源是来自于1989年的美国提出的一个可视人计划，在2001年的时候国内也提出了AI虚拟人体这个概念，刚开始的数字人主要应用于一些医疗领域的教学和诊疗。数字人的发展到今天它的分类也越来越多，不再只是简单的

分类标签虚拟数字人AI技术数字人应用

11-05 22:20

AI数字人生成工具DreamAvatar正式上线，为影视行业带来革命性变革

近日，美图公司旗下AI数字人生成工具DreamAvatar正式上线，首期推出“AI演员”数字人服务。DreamAvatar以AI驱动为核心，旨在服务于视频内容创作、影视处理与剪辑等生产力场景。这一新产品的推出，将为影视行业带来巨大的变革与创新。传统影视制作过程中，演员的选择与拍摄是一个繁琐且耗时的过

分类标签 AI演员数字人服务影视行业

11-05 22:19

英伟达推出用于企业的即时AI基础设施AILaunchPad和托管型边缘AI服务平台FleetCommand

背景当今时代，AI无处不在，对于企业来说更是如此。企业有时想要在混合云业务中加入AI功能，有时又想要发挥边缘计算的效用，但自身AI基础设施无法提供支持怎么办呢？近年来，AI和物联网的落地与融合推动人类社会进入万物智能互联时代，随之产生的数据也将呈井喷式爆发。云计算成功地缓解了日益增长的数据所带来的存

分类标签英伟达AI企业基础设施边缘计算混合云

10-22 10:06

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway