当前业界最优秀的8个编程大模型简介：从最早的DeepMind的AlphaCode到最新的StarCoder全解析~

新知榜官方账号

2023-09-17 03:24:29

当前业界最优秀的8个编程大模型简介：从最早的DeepMind的AlphaCode到最新的StarCoder全解析~

大语言模型中一个非常重要的内容就是关于代码的支持。通常，基于代码数据训练的模型不仅在代码补全方面有着更好地支持，也可能是大语言模型逻辑能力的部分来源。本文将总结目前业界专门针对代码补全（生成）方面而做的8个大模型。

需要注意的是，本文介绍的是编程大模型，并非代码补全插件，所以没有涉及AWS的CodeWhisper、Tabnine等。也欢迎大家补充~

1. AlphaCode

DeepMind在论文《AlphaCode:NeuralCodeGenerationwithTransformerDecoders》中首次介绍了AlphaCode。AlphaCode采用的模型和数据集目前未开源。但DeepMind提供了一个在线演示，可以输入代码注释并生成对应的Python代码：https://alphacode。deepmind。com。

在编码器端，它将代码注释转换为向量表示。在解码器端，它会生成相应的Python代码。尽管AlphaCode没有开源，但它作为第一个可以直接根据自然语言描述生成结构化代码的AI系统，在学术和产业界产生了很大反响。它展示了通过大规模无监督学习，机器学习模型可以达到编写基本代码的水平，这使得很多研究者optimistic地相信，AI最终将能达到助力程序员的目的，真正实现软件自动化生产。

2. Codex/Copilot

OpenAI的Codex是GPT-3继续训练得到的模型，OpenAI在2021年8月份公开了这个模型。而GitHub的Copilot则是GitHub与OpenAI合作推出的一个面向市场的代码补全模型，是基于Codex开发的一个代码编辑器插件，旨在帮助程序员编写代码。简单来说，Codex是一个编程大模型，而Copilot则是基于这个编程模型开发的编辑器插件。

3. CodeT5/CodeGen

2021年9月，Saleforce公布了CodeT5模型。而在2022年5月，Saleforce再次发布了一个新的编程模型CodeGen。这个模型是一系列模型，参数有4个版本：3.5亿、20亿、60亿和160亿。而训练的数据也有三个：nl版本：基于Pile数据训练multi版本：在nl基础上继续在多个编程语言组成的数据集上训练mono版本：继续在multi版本上基于Python代码数据训练。这两个模型都在HuggingFace上开源。

4. InCoder

InCoder是MetaAI在2022年4月发布的一个编程大模型。公开的模型预训练结果共2个版本，一个是67亿参数一个是13亿参数。尽管InCoder的训练数据都是开放许可代码数据，但是MetaAI的InCoder模型确实开源的不可商用的！

5. CodeGeeX

2022年9月，清华大学发布CodeGeeX。CodeGeeX是一个具有130亿参数的多编程语言代码生成预训练模型。CodeGeeX在各项评测中都有很好的表现，堪称国货之光！不过，这个模型的预训练结果可以个人申请使用，不允许商用！

6. ReplitCode

ReplitCodeV1-3b是Replit发布的一个大模型，用以生成代码的工具。它支持20种编程语言，基于5250亿个tokens进行训练。训练了10天后比现有所有的开源模型效果都好（基于人工评估）。2023年5月3日，ReplitCodeV1-3b正式发布，并在HuggingFace上开源。

7. StarCoder/StarCoderBase

StarCoder是BigCode基于GitHub数据训练的一个代码补全大模型。它可以实现一个方法或者补全一行代码。而StarCodeBase则是在80多种编程语言上训练的，基于1万亿tokens的数据集训练。这两个模型的参数规模都是155亿。

8. 总结

以上8个编程大模型各有特点，应用场景也不尽相同。程序员可以根据自己的需求，选择最适合自己的模型来提高代码开发效率。

本页网址：https://www.xinzhibang.net/article_detail-11762.html

寻求报道，请

关键词

大语言模型代码补全编程大模型 AlphaCode Codex CodeT5 CodeGen InCoder CodeGeeX ReplitCode StarCoder

分享至微信：

相关工具

BLACKBOX AI

黑箱AI编程助理，快速代码生成

Hocoos

无代码AI智能在线快速创建网站

Codeium

AI代码生成和补全

Fig

下一代命令行工具（内置AI终端命令自动补全）

Ghostwriter

知名在线编程IDE Replit推出的AI编程助手

Deco

京东推出的设计稿一键生成多端代码工具

探究人工智能在医疗领域的应用及未来发展

引言随着科技的飞速发展，人工智能（AI）技术在各个领域都得到了广泛的应用。在医疗领域，AI技术的应用也逐渐崭露头角，为医疗行业带来了革命性的变化。本文将探讨AI在医疗领域的应用现状及未来发展趋势。AI在医疗领域的应用现状（一）医学影像诊断AI在医学影像诊断方面的应用最为广泛。通过深度学习算法，AI可

分类标签人工智能医疗领域应用

12-01 02:12

无代码软件开发平台和SEO关键词

无代码软件开发平台和SEO关键词无代码软件开发平台使不懂编程技术的人也能够通过平台自己完成应用程序的开发工作，现在市场上无代码开发平台有很多，其实不同平台之间还是有很大区别的。你知道无代码平台之间有什么区别吗？下面一起来了解一下相关的知识吧！前端型无代码前端型更偏向于前端的样式组建，通过建立多张表单

分类标签无代码软件开发平台前端型无代码后端型无代码

11-22 22:32

未来AI+低代码的方式可能成为一种主流开发形式

未来AI+低代码的方式可能成为一种主流开发形式最近，发现一个很有意思的事情。AI编程很火，也就是仅凭自然语言对话来实现编程，这在以前可能很难做到，但近期随着Chatgpt的进一步开放，GPTs这样的定制化应用正在成为一种越来越普遍的现象。每个人都可以通过微调、上传数据，根据个性化的指示得到专属于自己

分类标签 AI编程Chatgpt自然语言编程图形化编程低代码编程智能化

11-22 02:40

AI与低代码平台的结合带来更高效、更智能的应用开发体验

背景随着人工智能（AI）技术的飞速发展，越来越多的行业开始尝试将AI技术与现有的业务流程相结合，以实现更高效、更智能的工作方式。与此同时，低代码平台（Low-CodePlatform）作为一种快速应用开发工具，也正逐渐成为企业进行数字化转型的重要支撑。当AI遇上低代码平台，会擦出怎样的火花？本文将从

分类标签人工智能低代码平台应用开发

11-20 18:12

大模型时代的AI编程需要拼参数、拼应用、拼落地和拼算力

大模型时代的AI编程需要拼参数、拼应用、拼落地和拼算力在大模型时代，AI编程需要拼参数、拼应用、拼落地和拼算力。这意味着AI开发者需要关注以下几个方面：拼参数：大模型通常需要大量的参数进行训练。AI开发者需要考虑如何获取和管理足够的数据来训练模型，并且需要选择合适的参数设置和优化算法来提高模型性能。

分类标签 AI编程大模型拼参数

11-09 22:59

GPT-4快速生成精准用油的网页代码

在我们日常润滑油销售的过程中，因为汽车门店客户群体的增多，加上很多欧系美系车国六的车型开始换装20粘度机油，换油师傅了解油品和车辆匹配需要一个过程，所以经常会遇到客户咨询机油精准匹配的问题。所以一直想做一款我们品牌机油专用的查询软件，可以根据车辆品牌，车辆型号通过年份和公里数进行筛选，达到精准用油的

分类标签 GPT-4精准用油机油查询软件

11-07 22:39

小米手表S3和小米腕部心电血压记录仪盘点

小米手表S3和小米腕部心电血压记录仪盘点10月26日，小米召开新品发布会，除了发布了小米14系列、小米电视SProMiniLED等在内的一系列新品，还带来了两款全新的智能穿戴产品——小米手表S3、小米腕部心电血压记录仪，一个首创“百变表圈”设计，一个为小米旗下的首款血压手表，两者到底有何优势呢，笔者

分类标签小米手表S3小米腕部心电血压记录仪百变表圈

11-03 10:14

出门问问发布首款AI智能儿童手表TicWatchKids

出门问问发布首款AI智能儿童手表TicWatchKids5月24日，人工智能公司出门问问正式发布旗下首款AI智能儿童手表TicWatchKids。TicWatchKids手表中内置出问问自主研发的中文神经网络语音合成技术NeuralTTS，通过该技术合成童声，使其内置的AI儿童语音助手具备接近真人童

分类标签 AI智能儿童手表TicWatchKids语音助手

11-03 10:13

AI模型可以根据文本生成逼真图片！

AI模型可以根据文本生成逼真图片！上周AI科技评论报道了OpenAI新出的名叫DALL-E的120亿参数神经网络模型，它可以根据自然语言描述生成对应图片，效果惊人！例如，文本描述“一只X射线的猫头鹰”，AI可以生成出逼真的猫头鹰图片。这项技术可以作为很好的出发点，为这个方向做一点小启发。除了DALL

分类标签 AI模型文本生成图片DALL-E

10-10 11:00

GitHub推出AI编程辅助工具Copilot，能有效提升程序员工作效率

背景程序员的工作，就是编码，有时候枯燥乏味的编码工作，的确会让人感觉痛不欲生！但是，好消息来了，微软旗下代码托管平台GitHub，刚刚推出了名叫Copilot的AI编程辅助工具。功能介绍GitHubCopilot是一个AI代码合成器，并不是搜索引擎：它提出的绝大多数代码建议都是新生成的，此前从未出现

分类标签 GitHubAI编程辅助工具Copilot

10-10 10:58

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway