Runway:人工智能视频编辑软件供应商

新知榜官方账号

2023-07-03 10:32:35

Runway:人工智能视频编辑软件供应商

Runway是一家人工智能视频编辑软件供应商,致力于利用计算机图形学及机器学习的最新进展,为设计师、艺术家和开发人员降低内容创作的门槛、推动创意内容的发展。Runway成立于2018年底,由Cristóbal Valenzuela联合其他成员创立,年收入将近500万美元,员工仅40人左右。

Runway技术应用

Runway的技术被用于制作奥斯卡最大赢家影片《瞬息全宇宙》,该片特效团队仅有5人,为了尽快完成这些特效镜头,他们选择了Runway公司的技术,比如为图像去除背景的绿幕工具(TheGreenScreen),导演兼编剧Evan Halleck受访时谈道:“仅仅几次点击就让我节省几个小时,我可以用这些时间尝试三四种不同的效果,让影片效果更好。”

除了《瞬息全宇宙》团队外,Runway的客户还包括传媒集团CBS、MBC,广告公司Assembly、VaynerMedia,设计公司Pentagram等。2023年2月6日,Runway官方推特发布Gen-1模型,可以通过应用文本提示或者参考图像所指定的任意风格,将现有视频转换为新视频。

Gen-1模型

Gen-1是一个结构(structure)和内容(content)引导的videodiffusionmodel,可以依据预期输出的视觉或文本描述,对视频进行编辑。该模型的目标是在保留视频structure的同时,编辑视频content。在模型训练过程中,科研人员用到了一个由未加字幕的视频及text-image pair构成的大规模数据集,同时,用单目场景深度预测(monocular depth estimates)来表示structure,用预训练神经网络预测的embedding来表示content。该方法在生成过程中提供了几种强大的控制模式。

  1. 参考图像合成模型,训练模型使得推理的视频content(如呈现或风格)与用户提供的image或prompt相匹配。
  2. 参考diffusion过程,对结构表征(structure representation)进行information obscuring,这使得开发者可以自行设定model adhere对于给定structure的相似程度。
  3. 参考classifier-free guidance,借助自定义guidance方法,调整推理过程,从而控制生成clip的时间一致性。

实验表明,在图像和视频数据上的联合训练,能够在推理期间上控制一致性(temporal consistency)。对于结构一致性(structure consistency),在表征的不同细节水平上训练,使用户得以在推理过程中选择所需的设置。一项用户调研表明,该方法比其他几种方法更受欢迎。

Runway对内容创作领域的影响

生成式人工智能成为自十多年前移动和云计算兴起以来最引人注目的技术,Runway的技术将为非技术人员和创意人员打开创作的大门,并将带领内容创作领域走向新的可能。

以上内容参考自[1]https://hub.baai.ac.cn/view/23940[2]https://cloud.tencent.com/developer/article/2227337。

本页网址:https://www.xinzhibang.net/article_detail-4856.html

寻求报道,请 点击这里 微信扫码咨询

关键词

Runway 人工智能 视频编辑

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯