Uizard Technologies开发的神经网络能够根据GUI截图直接输出代码

新知榜官方账号

2023-12-03 16:28:23

Uizard Technologies开发的神经网络能够根据GUI截图直接输出代码

UI设计和前端工程师之间，可能还需要一个神经网络。近日，位于哥本哈根的一家创业公司UizardTechnologies开发出了一个名为“pix2code”的系统。运用深度学习，这个系统能够根据输入的图形用户界面（GUI）截图直接输出对应的代码，从而省去前端手动编写代码的过程。目前pix2code所生成代码的准确率已经达到77%，且这些代码能够兼容安卓、iOS以及Web界面三种平台。

UIzard的创始人TonyBeltramelli说，为了搞出这个神经网络，研发团队不得不克服三个主要方面的困难：第一是计算机视觉层面——计算机无法自动识别、理解给定的对象和场景，也无法判断它们的位置和特征；第二是语言层面——他们需要教会神经网络理解文本，好让它能够创造出准确的样本；最后，神经网络需要理解代码、文本以及对应图像之间的关联。Beltramelli还表示，在未来，他们可能会用生成对抗网络（GANs）对pix2code进行进一步的完善。GANs已经证明了自己在生成序列和图像时的优势，但因为这一领域内的研究还处于相对初步的阶段，要对神经网络进行训练仍然需要花费大量的时间。

附paper地址：https://arxiv.org/abs/1705.07962

GitHub地址：https://github.com/tonybeltramelli/pix2code

Uizard Technologies对于pix2code的常见问题解答

在GitHub上，Beltramelli对于pix2code相关的一些常见问题进行了解答。量子位将这一部分编译如下：

Q：数据集会在什么时候开放？

A：我们把论文投到了今年的NIPS，等他们给出采纳或拒绝的结果后，数据集将会开放，具体时间大概在九月。那时我们将会提供包含在数据集中的GUI截图、相关的DSL代码以及针对iOS、安卓和Web界面的三种目标代码。
Q：源代码什么时候开放？

A：原本如论文中所写，我们没有开放源代码的计划。但没想到这个项目吸引了如此多的关注，因此我们决定将论文中说的pix2code实现代码和数据集一起开源。
Q：pix2code会支持其他目标平台/语言吗？

A：不，pix2code只是一个研究项目，它将保持论文中所描述的状态。这个项目其实只是对我们在UizardTechnologies所做工作的一个小小展示。当然，我们欢迎你fork，自己在其他目标平台/语言上进行实验。
Q：我能在自己的前端项目中用上pix2code吗？

A：不，pix2code只是实验性的项目，目前还无法让你在特定案例上应用。但我们正在努力争取让它实现商业化。
Q：模型的表现是如何进行测量的？

A：论文中所报告的准确或是错误结果都是在DSL层次上，通过对生成的token和预期的token进行比较而得出的。如果二者存在任何长度上的差异，同样会被认定为错误。
Q：训练这个模型要花费多久？

A：在一块英伟达的TeslaK80GPU上，要让一个数据集中包括的109*10^6条参数最优化，需要花费不到5个小时的时间。因此如果你想在三个目标平台上对这个模型进行训练的话，大概要花费15个小时。
Q：我是一名前端开发者？我是不是很快就要失业？（我非常真诚地问了这个问题好多遍了……）

A：AI并不会那么快就把前端工程师替代。即便假定已经存在一个成熟的pix2code版本，在每种不同的平台/语言上生成的代码都能达到100%的准确率，好的前端仍然需要逻辑、互动、高级的图形和动画，以及其他所有用户喜欢的东西。我们做这个东西的目的是填平UI/UX设计师与前端开发者之间的鸿沟，而不是去代替他们。我们希望能让设计者更好地创作，同时让开发人员将自己的时间更多地花费在那些核心功能上。我们相信未来AI将与人类协作，而不是代替人类。

【完】

本页网址：https://www.xinzhibang.net/article_detail-21879.html

寻求报道，请

关键词

Uizard Technologies 神经网络 GUI截图

分享至微信：

相关工具

AI驱动的文字生产力工具

AIGC原创内容创作和营销文案生成

HyperWrite

AI写作助手帮助你创作内容更自信

ContentBot

AI快速写作工具

字符狂飙

全方位AI文档生成工具，快速生成专业文档

Typeface AI

AI创意内容创作助手

三个国外专业免费的调色网站

三个国外专业免费的调色网站无论制作视频、编辑图片，合适的色彩会让你的作品增加视觉冲击力，所以专业的调色技术价值非凡，一部电影或一部好的视频、图片海报，专业调色耗费少则上万，多则上百万，只是大家对专业调色这个行业知之甚少，今天网玩君就为大家分享三个国外专业免费的调色网站，记得收藏好，以后编辑视频、图片

分类标签调色网站免费

04-18 16:42

电影制作中的纹理技术

纹理在电影制作中的重要性纹理是指将详细的表面特征应用于3D模型或视觉效果元素，使其看起来更逼真。纹理对于创建视觉上引人入胜且可信的电影场景至关重要，尤其是涉及CGI、动画或特效的场景。纹理还支持叙事和讲故事，可以通过纹理设置年龄大小等属性，为故事奠定基础。纹理技术的发展历程自胶片问世以来，电影制作人

分类标签纹理电影制作CGI视觉效果微缩模型UV映射

04-18 16:42

UnrealSynth虚幻合成数据生成器-NSDT

UnrealSynth虚幻合成数据生成器-NSDTUnrealSynth基于UE5虚幻引擎开发，可用于生成合成数据集，包括图像和标注数据。可用于各种行业细分场景中目标识别任务的实施效率提高。UnrealSynth合成数据工具包内容UnrealSynth基于UE5虚幻引擎开发，目前支持YOLO系列模型

分类标签 UnrealSynth虚幻引擎数据合成YOLO模型深度学习训练数据

04-18 16:42

人工智能与音乐：谷歌的Project Magenta

谷歌的Project Magenta利用人工智能技术生成音乐和其他艺术形式，如素描、视频和笑话。该项目的目标是为人们创造新的交流方式。本文介绍了该项目的背景、发展历程和应用。在上世纪90年代中期，谷歌研究院的Douglas Eck就开始了他的人生目标：融合人工智能与音乐。二十年后，他与一支谷歌研究团

分类标签人工智能音乐谷歌

04-18 16:42

如何做好SEO优化？

如何做好SEO优化？想要做好SEO优化，得从站内优化和站外优化两个方面入手。一、站内优化1.关键词定位和分析关键词整理是SEO优化中的核心工作，一旦定下来就不建议再次去更改。站长始终要记住关键词一定要和行业、产品、领域息息相关，同时还可以参考竞争对手所做的关键词，可以利用站长工具、5118、爱站网、

分类标签 SEO优化关键词定位网站架构布局

12-11 08:19

万兴科技：营收实现稳健增长，拥抱AIGC新机遇

万兴科技：营收实现稳健增长，拥抱AIGC新机遇国元证券股份有限公司耿军军近期对万兴科技进行研究并发布了研究报告《2022年年度报告点评：营收实现稳健增长，拥抱AIGC新机遇》，本报告对万兴科技给出买入评级，当前股价为75.24元。万兴科技(300624)事件：公司于2023年4月7日收盘后发布《20

分类标签万兴科技营收增长AIGC

12-11 02:11

AI分身市场潜力巨大，万兴科技、京东等已率先布局

“AI孙燕姿”和“CarynAI”引爆市场最近，“AI孙燕姿”和“CarynAI”以以假乱真的程度引爆市场，都是通过采集本人的语音、文字、图像等素材，并通过开源的生成式训练模型进行训练而成。其中，“CarynAI”成功地借助AI技术，打造了自己的AI分身，通过付费的方式，跟AI版的自己进行交往，预计

分类标签 AI孙燕姿CarynAIAI分身AIGC技术虚拟主播数字人

12-11 02:10

万兴科技推出名师必备讲演神器“万兴智演”

万兴科技推出名师必备讲演神器“万兴智演”9月8日，万兴科技面向泛知识领域，推出名师必备讲演神器“万兴智演”。该款AI演示新品集成强大的AIGC能力、精美的行业课程模板以及动画特效素材，大大简化课件制作过程。同时，产品内置强大的录制、直播功能，通过真人实拍与演示内容相结合的形式，实现人景融合的实时演示

分类标签万兴科技万兴智演AI演示

12-11 02:09

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲2023互联网岳麓峰会论坛上，万兴科技创始人、董事长兼总裁吴太兵进行主题演讲。红网时刻新闻记者郭雅倩甘红长沙报道十届、十年，岳麓峰会从2014年的“湖湘汇”到如今云集万人的盛会，积攒了巨大的关注度和影响力。6月19日，2023互联网岳麓峰会在长

分类标签万兴科技吴太兵岳麓峰会

12-11 02:05

樟宜机场：通过科技改变旅客体验

樟宜机场：通过科技改变旅客体验樟宜机场在智能手机上移动的小红点代表了在机场上空飞行的飞机，通过传感器的追踪获取了相关飞行轨迹。机场通过人工智能、面部识别和数据分析等技术的应用，不断提高机场运营效率，保持创新，致力于成为一个旅客体验更佳、充满活力的目的地。人工智能优化机场运营效率樟宜机场在2017年共

分类标签樟宜机场科技旅客体验

12-10 22:16