Stability AI 发布 AI 编程工具:StableCode

人工智能
StableCode 提供了一种独特的方式,通过使用三种不同的模型来帮助开发者编写代码,从而提示开发效率。基础模型 (​base model​) 首先使用来自 BigCode stack-dataset (v1.2) 的多种编程语言进行训练,然后使用 Python、Go、Java、Javascript、C、markdown 和 C++ 等流行语言进行进一步训练。

Stability AI 刚刚宣布了他们首个用于编程的生成式 LLM AI 产品 ——StableCode。该产品旨在帮助程序员完成日常工作,并为新手开发者提供实用的学习工具。

官方介绍道,StableCode 提供了一种独特的方式,通过使用三种不同的模型来帮助开发者编写代码,从而提示开发效率。基础模型 (base model) 首先使用来自 BigCode stack-dataset (v1.2) 的多种编程语言进行训练,然后使用 Python、Go、Java、Javascript、C、markdown 和 C++ 等流行语言进行进一步训练。总的来说,他们在 HPC 集群上使用 560B token 的代码训练了模型。

建立好基础模型后,Stability AI 针对特定用例调整指令模型 (instruction model),以帮助解决复杂的编程任务。为了实现这一结果,他们在基础模型上训练了约 120,000 个 Alpaca 格式的代码指令 / 响应对 (instruction/response)。

使用 StableCode Instruct 生成对给定指令的响应的代码

对于那些想要了解更多编码知识的开发者来说,StableCode 是理想的构建块,而长上下文窗口模型 (long-context window model) 是确保用户可以使用单行和多行自动完成建议的完美助手。

该模型旨在一次处理更多代码(比之前发布的具有 16,000 个 token 的上下文窗口的开放模型多 2-4 倍),允许用户同时查看或编辑相当于最多 5 个平均大小的 Python 文件。使其成为初学者想要迎接更大挑战的理想学习工具。

StableCode 利用 Pytorch 深度学习库完成一个相对复杂的 python 文件(灰色文本为 StableCode 的预测)

最后看看关于 StableCode 的评测数据:


责任编辑:武晓燕 来源: OSCHINA
相关推荐

2024-03-25 00:03:00

生成式 AIAI

2023-10-18 10:35:50

微软AI

2024-11-21 15:36:49

微软AI Shell

2024-01-17 12:08:32

模型训练

2023-05-19 12:54:33

StabilityAI开源

2021-06-30 13:30:05

GitHub工具AI

2024-04-22 15:00:00

AIAI辅助编程工具开发

2023-03-22 11:06:32

2023-08-30 08:19:11

人工智能定制芯片谷歌

2023-03-29 09:44:37

OpenAI编程工具

2022-09-13 15:56:48

AI创造艺术谷歌

2023-12-29 00:11:35

AI架构OpenAI

2024-08-12 08:41:40

2018-09-20 08:53:56

AI平台工具

2023-08-30 13:24:00

AI工具

2024-02-26 12:51:20

2024-03-27 09:09:57

模型AI开源

2024-03-21 10:35:59

AI人工智能

2021-11-01 12:11:02

GitHub AI IT资讯业界
点赞
收藏

51CTO技术栈公众号