人工智能技术带来的风险与挑战，如何加强监管？

潮新闻记者许伊雯

人工智能（AI）会不会打开“潘多拉魔盒”？近日，郭德纲凭借一口“地道英语”说相声，引起全网狂欢。不仅如此，美国歌手泰勒·斯威夫特、马斯克、特朗普等名人也“说得”一口流利中文。网络视频截图AI制作的名人“恶搞”视频已屡见不鲜，但近来关于日本首相岸田文雄和印尼总统佐科等两段以假乱真的视频，引起了多国关注和警惕。这些被网友称为“人工智能嘴替”的AI视频中，人物的表情、动作自然真实，声线和腔调都和本人高度相似。

从诞生至今60余年，AI在经历两次发展浪潮后，以去年11月30日ChatGPT深度学习技术的推出为标志，开始催生出各种各样的创新应用，迎来了应用层面的大爆发。如今，AI广泛应用于绘画、配音、视频、写作等方面，在我们的生产、生活中变得越来越常见。快速迭代的技术不断颠覆人们的想象，但随之而来的技术滥用问题也引发担忧。

AI技术有哪些风险？AI侵权如何界定？又该如何对AI技术加强监管？有人激动有人忧，这是一把双刃剑最近，“郭德纲讲英语”“霉霉说中文”等AI视频席卷互联网，乍眼一看，不少网友直呼，“嘴型、手势都对得上，太自然了，差点就信了。”“口型都改了，AI是真无敌。”

据悉，该创作来自国产AI视频翻译工具HeyGen。记者试用了这款工具，注册、上传视频后，选取需要翻译的语言，通过一键生成，便能获得一段翻译视频。对比原片，“翻译”后的新视频不仅翻译较地道，连声线、情绪都近乎和原视频一致，而且嘴形贴合，难辨真假。

有些人看好其发展前景，“以后译制片是不是可以用AI了？”AI以这种娱乐的方式破圈，真的是好事吗？“在这个网络流量为主的时代，很多名人或许乐意通过AI工具为作品添把火，还有主播主动使用AI工具，在全球各地实现跨文化经商、交流。”成立于杭州的无界AI联合创始人马千里表示，无论是语言模型、图片模型，还是语音合成技术，各个模块已经实现突破性进展，几乎达到了以假乱真的地步。

AI的飞速发展正在颠覆人类认知。近日，OpenAI首席科学家IlyaSutskever称，ChatGPT可能已经有了意识。在无界AI创始人、科幻作家长铗看来，目前的大语言模型的底层逻辑还是基于统计与信息加工，仍不具备意识的一些基本特征，比如主体意识，情感与记忆，趋利避害、想象力等，“不过，AI并不需要具有意识，就能拥有超级智能或通用人工智能（AGI），能处理超级复杂的问题并独立做出决策，包括生产出具有创造性的内容。”

尽管有名人主动使用类似技术，比如纽约市长亚当斯，他使用AI工具说普通话、乌尔都语和意第绪语，来为市民提供语音服务，但AI技术的滥用已成为悬在各国头顶的达摩克利斯之剑。据《环球时报》11月6日报道，日本一名25岁男子借助AI技术制作了日本首相岸田文雄发表讲话，并带有日本电视台台标和“突发新闻”字样的假视频。该视频引发了广泛批评，日本电视台表示“绝不容忍这种行为”，并将采取法律措施。日前，该男子已在社交媒体上发文致歉。此前，针对频发的假视频，日本总务省曾警告：“虚假和错误信息的传播会造成社会分裂，进而导致民主危机。”印尼社交媒体最近流传一段印尼总统佐科以流利中文发表演讲的视频同样引发关注，视频中的佐科总统说中文时，嘴型、表情基本能卡点对上，声音、声线也与佐科总统非常像，视频的背景音还有观众的笑声。印尼政府部门日前专门对此进行了澄清，指出这段视频是用深度伪造技术制作而成。

AI技术暗藏风险。图源：视觉中国AI技术暗藏风险，治理方案需要全球合作目前，马千里所在的公司也在积极应对潜在的版权问题，比如他们结合区块链技术，对AI创作的图片、漫画与视频作品进行版权登记与保护。并且，“我们在用户协议里进行了完善，明确了用户的权利与义务，用户拥有相当大的权利，同时也要承担相应的责任。”从整个产业和企业发展角度，马千里倒希望相关法律可以再等等，AI技术发展迅猛，很多应用尚不成熟，仍处于探索阶段，“等到它真的发展成熟，有许多社会价值被创造出来，再去考虑制定相关的法律法规可能会更合适。”尽管一些企业家认为目前AI技术并不会造成重大灾难性危害，但同时也表示，随着人工智能的快速发展，提前规划是有意义的。

我们也期待，通过国际间的交流与合作，共同制定出一套明确且具有广泛共识的法律、伦理规范，确保AI技术合法、合理、合乎伦理地应用。同时，也需要各国政府、国际组织、科研机构以及行业组织贡献智慧，携手共进，推进AI全球治理，推动AI技术造福全人类。