国家网信办、工信部、公安部发布互联网信息服务深度合成管理规定

新知榜官方账号

2023-11-07 00:12:26

背景介绍

元宇宙、AIGC火热之时，其背后的推手——深度合成技术正被戴上“紧箍咒”，防止技术滥用。近日，国家网信办、工信部、公安部三部门发布《互联网信息服务深度合成管理规定》(以下简称“《规定》”)，从技术提供者、服务使用者以及监管等各方面，对深度合成技术应用提出规范。

深度合成技术的概念及应用

所谓“深度合成技术”，是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，包括文本转语音、音乐生成、人脸生成、人脸替换、图像增强等技术。目前该技术已应用于传媒、影视制作、社交娱乐、教育以及电子商务等行业，如修复历史老照片、虚拟主播、AI换脸等。

清华大学人工智能研究院发布的《深度合成十大趋势报告（2022）》显示，据不完全统计，创作者在互联网平台中发布的深度合成内容的数量呈高速增长。仅以视频为例，2021年新发布的深度合成视频的数量较2017年已增长10倍以上。

最近火热的聊天机器人ChatGPT、“科技与狠活”AIGC（AI-Generatedcontent即AI生产内容）、二级市场热炒的数字人等均属于深度合成技术领域。

《规定》的要求

此次《规定》对深度合成服务提供者和技术支持者提出了明确的数据和技术管理规范。其中包括，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

提供智能对话、合成人声、人脸生成、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示信息内容的合成情况，避免公众混淆或者误认；提供非上述深度合成服务的，应当提供显著标识功能，并提示使用者可以进行显著标识。任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。

此外，《规定》还明确，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依法依规保存日志信息。具有生成或者编辑人脸、人声等生物识别信息的模型、模板等工具的深度合成服务提供者和技术支持者，应当自行或者委托专业机构开展安全评估。

行业影响及展望

伴随技术的近年来广泛落地，以及一二级市场对相关赛道关注热度的持续升温，深度合成技术的滥用也随之产生。在业界人士看来，《规定》的落地利于避免技术滥用于诈骗等不法行为。中国政法大学副校长时建中认为，随着深度合成技术的开源开放、深度合成产品和服务的逐渐增多，深度合成内容制作的技术门槛越来越低，深度合成服务已经实现了公众化、平民化，普通人仅需要少量的图像、音频、视频、文本等样本数据，利用简便易用的深度合成工具，就能够模糊真实信息和虚假信息的边界。但深度合成技术一旦被滥用，会造成巨大风险与实质性危害，可能给个人、企业造成肖像、名誉等人格和财产权益损害，也可能给社会秩序、国家政治稳定和安全造成巨大威胁。

对于提供深度合成服务的创业公司来说，《规定》的影响较大，由于深度合成内容涵盖范围广，供应商需要加大力度进行相关审核，会抬高合规要求和合规成本。

在行业展望方面，A股“AIGC概念股”、虚拟数字人板块拉升，深度合成技术的应用前景依然广阔。

本页网址：https://www.xinzhibang.net/article_detail-19141.html

寻求报道，请

关键词

分享至微信：

相关工具

ColorMagic

AI调色板生成工具

智绘设计

腾讯推出的智能设计平台，让内容更精彩

Designs.ai

AI设计工具

Luma AI

AI 3D捕捉、建模和渲染

美间

AI软装设计、海报和提案生成工具

Spline AI

Spline推出的AI生成3D物体、动画、材质

如何免费获取头条上传链接？

如何免费获取头条上传链接？如果你想在头条上推广你的产品或服务，上传链接是必不可少的一步。不过，由于头条的限制，很多人可能不知道如何免费获取上传链接。下面我们来分享一下具体步骤：关注头条官方账号，并留意他们的活动。头条经常会有一些活动，比如分享文章或者邀请好友，参与这些活动可以获得上传链接的机会。加入

分类标签头条上传链接免费获取头条推广

12-04 06:16

平面设计是什么？如何学习平面设计？

平面设计是什么？平面设计是一门涵盖面广、灵活性强的专业，为你提供无限可能性。平面设计也称为视觉传达设计，需要透过多种方式，例如结合符号、图片和文字等来传达想法或讯息。平面设计的类别有哪些？平面设计细分为很多类别，比如：印刷类设计、户外喷绘类设计、包装类设计、形象类设计和web类设计。平面设计学什么？

分类标签平面设计视觉传达设计设计基础

12-04 06:15

京纪中达旗下品牌AJ系列DLP拼接大屏介绍

京纪中达旗下品牌AJ系列DLP拼接大屏介绍AJ品牌系列DLP拼接大屏和控制系统是由京纪中达研发团队依据客户的实际需求独立研发而成，拥有自主知识产权和软件注册权。适用于政府军队、能源交通、广电、金融、展示展览等各个领域，在不同行业的场所都得到了广泛的应用与推广。AJ系列DLP拼接大屏基于TI公司DMD

分类标签京纪中达AJ品牌DLP拼接大屏

11-27 02:05

哈佛领导的伽利略计划：寻找地球附近外星技术特征的迹象

该项目由哈佛天文学家阿维·勒布（AviLoeb）领导，他认为星际天体“奥陌陌（Oumuamua）”可能是一个外星探测器。寻找外星智慧(SETI)始于1960年代，但科学家们尚未找到确凿的证据证明其存在。新启动的SETI计划，被称为伽利略计划（GalileoProject），已宣布其目标是寻找外星技术

分类标签伽利略计划外星技术奥陌陌

11-20 18:10

360智脑大模型发布，周鸿祎：已基本赶上或接近国际平均水平

360智脑大模型发布，周鸿祎：已基本赶上或接近国际平均水平6月13日，三六零集团创始人周鸿祎正式对外发布了360智脑大模型。据介绍，其已具备跨模态生成能力，包括文字处理能力、图像处理能力、语音处理能力、视频处理能力。具体表现为能够实现图生图、文生文、图生文、文生图、视频生文、文生表、文生视频、文本剪

分类标签 360智脑大模型人工智能

11-07 00:14

6款设计师必备工具推荐

Dribbble专用工具DrubbblerDrubbbler是一个专门服务于Dribbble设计师的工具，帮助设计师更好地管控发布作品的频率，一站式添加标签、标题、描述和作品，比原生的发布编辑器更便捷。Drubbbler最多只允许上传800x600的图片，格式只能是png、jpeg和gif，并不支持

分类标签设计师工具DribbbleAdobeCaptureKhromaColorSlurpKamiAvocode

10-30 16:18

雅图投影机研发中心为DLP投影机提供防尘降温热管散热系统

DLP的全称为“DigitalLightProcession”，即为数字光处理，通过该技术要先把影像信号经过数字处理，然后再把光投影出来。DLP投影机采用了数字微镜晶片(DMD)来作为主要关键处理元件以实现数字光学处理过程。其原理是将通过UHP灯泡发射出的冷光源通过冷凝透镜，通过Rod将光均匀化，经

分类标签 DLP投影机热管散热系统防尘降温

10-20 09:06

AdobeColorCC：一个好用的配色工具

AdobeColorCC：一个好用的配色工具一套的好的配色是设计的重要组成部分之一。对于在座学设计的同学们，尤其一些理工科背景的学生，没有系统的学过配色，对颜色的感觉也比较薄弱，所以在配色环节往往感觉很绝望，弄不好就来个农家乐审美了。所以呢，今天要给大家推荐一个很好用的配色工具，出自于Adobe之手

分类标签配色工具AdobeColorCC设计工具

10-20 09:04

设计圈干货：快速便捷的设计工具推荐

设计圈干货：快速便捷的设计工具推荐好的设计工具总能让设计师工作更加便捷，这一点毋庸置疑。这个月的设计圈干货当中，汇集了许多能够让设计更加快速便捷的工具，有的能够帮你快速完善配色，有的工具能帮你完善流程，更好用的代码片段，以及帮你丰富设计的字体。春天来了，生活和工作理当更加放松，看看今天的新工具，不要

分类标签设计工具SEO关键词配色流程字体

10-20 09:02

生成式AI：未来组织经营的顶级战略技术

生成式AI：未来组织经营的顶级战略技术生成式AI被Gartner列为2022年顶级战略技术，其重要性已得到广泛认可。与ChatGPT等AI工具不同，生成式AI已广泛应用于对话机器人、内容续写、新闻撰写、诗歌小说创作等领域。在人工智能技术逐步成熟后，各种基于AI的文字技术、语音技术、图像技术及影音技术

分类标签生成式AIChatGPT组织经营

09-21 17:12

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway