换脸变声的边界待厘清，套路翻新的电诈需整治，人工智能监管趋于规范化

新知榜官方账号

2023-06-29 21:40:56

近日，以深度伪造（Deepfake）为核心技术的AI换脸变声相关新闻层出不穷，越来越多的人意识到AI是一把双刃剑。如何明晰真伪边界，让科技持续“向善”，成为一个亟需回答的问题。

商家利用AI软件把主播换脸成女明星进行带货的现象越来越普遍，不少直播间的AI换脸达到了以假乱真的地步。AI换脸使用的是深度伪造技术——该技术能将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习，从而将个人的声音、面部表情及身体动作拼接合成虚假内容。该技术除了最常见的AI换脸之外，还包括人脸合成、视频生成以及语音模拟等。

深度伪造技术而今已无处不在。近来，B站音乐区掀起了一波AI翻唱热潮。在AI技术加持下，孙燕姿、周杰伦、林俊杰、陈奕迅等一众歌手纷纷化身“AI点唱机”。据不完全统计，“AI孙燕姿”迄今已拥有上千首翻唱歌曲，最火的作品播放量破百万。

利用高科技实施电信诈骗，对普通老百姓来说堪称“降维打击”。该如何预防？共青团北京市委员会官方微博提供了两个识别AI换脸的小技巧：在视频聊天时，如果担心对方有AI换脸诈骗的可能，可以要求对方将一根手指或者其他物体放在脸前来回移动；也可以要求对方左转或者右转，然后观察他的侧脸。

今年1月10日起施行的《互联网信息服务深度合成管理规定》，从技术提供者、服务使用者以及监管等各方面，对技术的应用提出规范。4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》。这或将成为我国专门针对人工智能生成内容发布的第一份政府文件，总的基调是包容而审慎。

随着AI技术不断发展，其安全问题受到越来越多的关注，监管正走向规范化。生成式人工智能监管号角已经吹响，产业格局和行业规则或将发生重大改变。

本页网址：https://www.xinzhibang.net/article_detail-2918.html

寻求报道，请

关键词

AI换脸深度伪造技术电信诈骗生成式人工智能监管规范化

分享至微信：

三个国外专业免费的调色网站

三个国外专业免费的调色网站无论制作视频、编辑图片，合适的色彩会让你的作品增加视觉冲击力，所以专业的调色技术价值非凡，一部电影或一部好的视频、图片海报，专业调色耗费少则上万，多则上百万，只是大家对专业调色这个行业知之甚少，今天网玩君就为大家分享三个国外专业免费的调色网站，记得收藏好，以后编辑视频、图片

分类标签调色网站免费

04-18 16:42

第六届中国国际工业设计博览会盛况空前

第六届中国国际工业设计博览会于11月30日至12月2日在武汉举行。本届博览会展览面积达2万平方米，参展企业超过300家，其中，参展国家级工业设计中心数量为历届最多。众多国内外行业龙头企业展示了多项“首台套”的硬核实力，为中国制造业向高端化、智能化、绿色化转型升级赋能。中铁宝桥集团展示了多个“国内首条

分类标签中国国际工业设计博览会工业设计创新成果中国制造业

04-18 16:42

知识分享查理芒格思考的独立性与决策的准确性

知识分享查理芒格思考的独立性与决策的准确性本文介绍了成功投资者必须具备独立思考和决策准确性，同时保持谦逊低调的心态，以及成功的关键因素之一——运气。同时，本文还分享了下周市场关注的行业和概念。一、知识分享查理芒格思考的独立性成功的投资者必须具备独立思考的能力，因为只有独立思考才能避免盲目跟风和投资决

分类标签独立思考决策准确性谦逊低调

04-18 16:42

阿里国际发布三款AI设计工具助力中国制造走向全球

阿里国际发布三款AI设计工具助力中国制造走向全球12月1日，在第六届中国国际工业设计博览会上，阿里国际数字商业集团（简称“阿里国际”）发布了3款设计生态工具：堆友、PicCopilot、鹿班AI。这3款产品具有AI绘画、AI模型创作、AI图像和视频处理等功能，用AI设计服务全球商家更轻松的做好本地市

分类标签 AI设计阿里国际数字商业集团

04-18 16:42

电影制作中的纹理技术

纹理在电影制作中的重要性纹理是指将详细的表面特征应用于3D模型或视觉效果元素，使其看起来更逼真。纹理对于创建视觉上引人入胜且可信的电影场景至关重要，尤其是涉及CGI、动画或特效的场景。纹理还支持叙事和讲故事，可以通过纹理设置年龄大小等属性，为故事奠定基础。纹理技术的发展历程自胶片问世以来，电影制作人

分类标签纹理电影制作CGI视觉效果微缩模型UV映射

04-18 16:42

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway