AI技术治理：多层推进深度合成技术治理，将AI技术用于正道

新知榜官方账号

2023-11-29 08:17:32

AI技术治理：多层推进深度合成技术治理，将AI技术用于正道

近期多个基于真人形象训练而成的AI模型在互联网上流传，可快速生成大量虚假图片；南方都市报调查发现，已有人在闲鱼平台兜售相关模型及其训练服务，小红书上甚至已有账号利用AI生成图像假扮真人（相关报道）。这些现象引发了公众的安全担忧，而国内早已布局相关法规。

2019年，国内首个针对“AI造假”的监管措施出台：国家网信办、文旅部和广电总局等三部门联合发布《网络音视频信息服务管理规定》，明确“利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识”“不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息”。2021年起正式施行的《民法典》也明确规定“任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用公开肖像权人的肖像，但是法律另有规定的除外”。2023年1月10日起，国家网信办、工信部、公安部联合出台的《互联网信息服务深度合成管理规定》正式施行，明确“任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动”。

针对这些现象和安全风险，中央网信办网络管理技术局局长于永河在撰文中强调，使用深度合成服务的组织和个人应主动承担起信息安全义务，不得利用深度合成服务从事侵犯个人隐私、制作传播虚假信息等违法违规活动。他提出要压实各方主体责任，多层推进深度合成技术治理。一是立足源头管理：技术支持者要从技术源头上加强数据和算法管理，确保训练数据客观公正、合成模型安全可控，特别要防范在建模过程中引入歧视性观点或规则，带来安全隐患。二是体现过程管理：服务提供者要在用户注册、信息发布、应急处置、技术保障等多环节中，全面落实全流程管理责任。三是聚焦结果管理：使用深度合成服务的组织和个人应主动承担起信息安全义务，不得利用深度合成服务从事侵犯个人隐私、制作传播虚假信息等违法违规活动。四是突出渠道管理：互联网应用商店等应用程序分发平台应落实平台主体责任，主动核验应用程序的安全评估、备案等情况，发挥对深度合成应用的上线把关作用。

除了治理方面，本文还展望了AI技术的未来。多家企业正尝试在AI绘画领域打造下一个“ChatGPT”，AI绘画正在成长为下一个风口。未来，AI技术也将驱动我们的新旅途。

引用案例，本文指出，国内已有针对滥用AI技术违法犯罪的相关案例。2021年，江苏常州警方破获一起利用AI技术伪造人脸识别认证的犯罪团伙案件。杭州互联网法院审理一起因“AI换脸”APP利用深度合成算法侵害他人肖像权的案件：被告上海某公司运营一款“AI换脸”APP，并在其中使用了原告楼某某拍摄的视频模板。杭州互联网法院经审理认为，被告未经原告同意，利用深度合成技术使用其肖像制作了伪造视频，依法应认定构成对原告肖像权的侵害，判决APP开发者赔礼道歉并赔偿损失共计5000元。

最后，本文呼吁，AI技术是一把双刃剑，我们需要科学、理性地运用它，同时也需要加强对其安全风险和监管法规的认识和掌握，共同维护信息安全和社会稳定。

本页网址：https://www.xinzhibang.net/article_detail-21371.html

寻求报道，请

关键词

分享至微信：

相关工具

Notion AI

Notion推出的AI内容创作助手

悉语

阿里旗下智能文案工具，一键生成电商营销文案

爱改写

AI改写、纠错、润色辅助工具

奇妙文

出门问问推出的AI写作助理

Copy.ai

人工智能营销文案和内容创作工具

火龙果写作

AI驱动的文字生产力工具

三个国外专业免费的调色网站

三个国外专业免费的调色网站无论制作视频、编辑图片，合适的色彩会让你的作品增加视觉冲击力，所以专业的调色技术价值非凡，一部电影或一部好的视频、图片海报，专业调色耗费少则上万，多则上百万，只是大家对专业调色这个行业知之甚少，今天网玩君就为大家分享三个国外专业免费的调色网站，记得收藏好，以后编辑视频、图片

分类标签调色网站免费

04-18 16:42

电影制作中的纹理技术

纹理在电影制作中的重要性纹理是指将详细的表面特征应用于3D模型或视觉效果元素，使其看起来更逼真。纹理对于创建视觉上引人入胜且可信的电影场景至关重要，尤其是涉及CGI、动画或特效的场景。纹理还支持叙事和讲故事，可以通过纹理设置年龄大小等属性，为故事奠定基础。纹理技术的发展历程自胶片问世以来，电影制作人

分类标签纹理电影制作CGI视觉效果微缩模型UV映射

04-18 16:42

UnrealSynth虚幻合成数据生成器-NSDT

UnrealSynth虚幻合成数据生成器-NSDTUnrealSynth基于UE5虚幻引擎开发，可用于生成合成数据集，包括图像和标注数据。可用于各种行业细分场景中目标识别任务的实施效率提高。UnrealSynth合成数据工具包内容UnrealSynth基于UE5虚幻引擎开发，目前支持YOLO系列模型

分类标签 UnrealSynth虚幻引擎数据合成YOLO模型深度学习训练数据

04-18 16:42

人工智能与音乐：谷歌的Project Magenta

谷歌的Project Magenta利用人工智能技术生成音乐和其他艺术形式，如素描、视频和笑话。该项目的目标是为人们创造新的交流方式。本文介绍了该项目的背景、发展历程和应用。在上世纪90年代中期，谷歌研究院的Douglas Eck就开始了他的人生目标：融合人工智能与音乐。二十年后，他与一支谷歌研究团

分类标签人工智能音乐谷歌

04-18 16:42

如何做好SEO优化？

如何做好SEO优化？想要做好SEO优化，得从站内优化和站外优化两个方面入手。一、站内优化1.关键词定位和分析关键词整理是SEO优化中的核心工作，一旦定下来就不建议再次去更改。站长始终要记住关键词一定要和行业、产品、领域息息相关，同时还可以参考竞争对手所做的关键词，可以利用站长工具、5118、爱站网、

分类标签 SEO优化关键词定位网站架构布局

12-11 08:19

万兴科技：营收实现稳健增长，拥抱AIGC新机遇

万兴科技：营收实现稳健增长，拥抱AIGC新机遇国元证券股份有限公司耿军军近期对万兴科技进行研究并发布了研究报告《2022年年度报告点评：营收实现稳健增长，拥抱AIGC新机遇》，本报告对万兴科技给出买入评级，当前股价为75.24元。万兴科技(300624)事件：公司于2023年4月7日收盘后发布《20

分类标签万兴科技营收增长AIGC

12-11 02:11

AI分身市场潜力巨大，万兴科技、京东等已率先布局

“AI孙燕姿”和“CarynAI”引爆市场最近，“AI孙燕姿”和“CarynAI”以以假乱真的程度引爆市场，都是通过采集本人的语音、文字、图像等素材，并通过开源的生成式训练模型进行训练而成。其中，“CarynAI”成功地借助AI技术，打造了自己的AI分身，通过付费的方式，跟AI版的自己进行交往，预计

分类标签 AI孙燕姿CarynAIAI分身AIGC技术虚拟主播数字人

12-11 02:10

万兴科技推出名师必备讲演神器“万兴智演”

万兴科技推出名师必备讲演神器“万兴智演”9月8日，万兴科技面向泛知识领域，推出名师必备讲演神器“万兴智演”。该款AI演示新品集成强大的AIGC能力、精美的行业课程模板以及动画特效素材，大大简化课件制作过程。同时，产品内置强大的录制、直播功能，通过真人实拍与演示内容相结合的形式，实现人景融合的实时演示

分类标签万兴科技万兴智演AI演示

12-11 02:09

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲2023互联网岳麓峰会论坛上，万兴科技创始人、董事长兼总裁吴太兵进行主题演讲。红网时刻新闻记者郭雅倩甘红长沙报道十届、十年，岳麓峰会从2014年的“湖湘汇”到如今云集万人的盛会，积攒了巨大的关注度和影响力。6月19日，2023互联网岳麓峰会在长

分类标签万兴科技吴太兵岳麓峰会

12-11 02:05

樟宜机场：通过科技改变旅客体验

樟宜机场：通过科技改变旅客体验樟宜机场在智能手机上移动的小红点代表了在机场上空飞行的飞机，通过传感器的追踪获取了相关飞行轨迹。机场通过人工智能、面部识别和数据分析等技术的应用，不断提高机场运营效率，保持创新，致力于成为一个旅客体验更佳、充满活力的目的地。人工智能优化机场运营效率樟宜机场在2017年共

分类标签樟宜机场科技旅客体验

12-10 22:16