AI创作:展望和问题

新知榜官方账号

2023-06-29 02:28:46

生成式AI作画:质量问题

生成式AI作画在近年来逐渐流行起来,许多人对这种“以文生图”的AI作画感到好奇,并且进行了自己的尝试。在AI的帮助下,不乏一些让人惊叹的美术作品出现,但同时也存在着作品质量问题。

尽管人工智能作品充满了冲击力和视觉张力,但和几乎所有其他的深度学习模型一样,在理解知识、推理、逻辑方面做得都不够好。在生成偏写实风格的人类图片的时候,有时候会因为微小的偏差产生“恐怖谷效应”,让人感到不适。

另一个已经被广泛注意到的问题,是人工智能经常会生成奇形怪状的手。这种现象的原因很可能是手部是人类身体上形状最丰富的结构之一,所以角度不同、距离不同、手势不同、还会被阴影和其他物体遮挡。甚至还有些更加奇特的“手”,它们的手的形状和手指数都不相同,但也都会被标注成“手”,让模型觉得它们的形状可能都是合理的,也就因此产生了各种崎岖的手。

AI创作:偏见和刻板印象

除了质量问题外,人工智能生成的内容还有可能产生各种伦理问题。比如在语言模型上时常会出现的偏见和刻板印象,在图片生成中也有体现,例如生成“大公司CEO”大概率会出现一个白人成熟男性的形象。

每一次修改或生成内容的新技术出现,都会引发这样的担忧。技术的进步让生成虚假内容的门槛变得越来越低,人们认为,AI技术有可能会让虚假信息空前繁荣,因此伤害社会。除了推动立法外,开发便捷的生成检测技术也是必要的。

AI创作的发展历程

除了最近非常受欢迎的图片生成,AI创作还包括文字(问答、对话、诗歌、小说)和视频生成,只不过,AI在创造上还需要更多的训练和学习。

第一个能保证质量水准的AI创造模型是对抗生成网络(Generative Adversarial Network,下简称:GAN)。GAN的作者伊恩·古德费洛(Ian Goodfellow)在原始论文里用一个假想的警察和假钞犯来举例子。最早的GAN其实效果一般,但随后各种GAN的变体开始像雨后春笋一样涌现出来。其中,相当有名的是StyleGAN,它能生成极为逼真的人脸。

2021年1月,美国研究机构OPENAI发布了DALL·E,和GAN相比,DALL·E是预先训练好的大模型,也有理解人类语言的能力。大家纷纷尝试用各种各样奇怪的文字输入模型,再把生成的图片公布出来,一度形成了网络迷因。很快,大家发现,DALL·E2不仅能准确地生成各种实体,还能按照要求改变绘画风格,从写实照片到数字艺术,从油画到简笔画,从梵高到安迪霍尔,从中国国画到日本浮世绘,从毛线织物到橡皮泥风格。

AI创作:版权问题

人工智能模型生成的作品也面临版权争议。美国版权局多次判决,拥有版权的只有可能是自然人,不能是程序或者机器。另外,有很多人工智能团队在没有征求原作者同意的情况下就用他们的作品用预训练模型,这也引起了广泛的争议。因为人工智能的创作模型仍是一个非常新的产品,所以各方的边界都没有被法律明确界定,可能还需要更多的案例才能逐渐明晰。

本页网址:https://www.xinzhibang.net/article_detail-2503.html

寻求报道,请 点击这里 微信扫码咨询

关键词

生成式AI作画 人工智能创作 AI创作质量问题

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯