StabilityAI推出StableCode,一款用于写代码的大型语言

来源:IT之家 2023-08-09 14:38:07  阅读量:6701   

,Stability AI 以其 Stable Diffusion 文本生成图像模型而闻名,但这并不是其感兴趣的唯一领域,该公司现在也开始涉足代码生成领域。今天,Stability AI 发布了其新的开放大型语言模型StableCode ,该模型旨在帮助用户生成编程语言代码,基于 transformer 神经网络打造。

StableCode 将提供三个不同级别:一个基础模型用于一般用途,一个指令模型,以及一个能够支持多达 16,000 个词元的长上下文窗口模型。

StableCode 模型受益于开源 BigCode 项目的初始编程语言数据集,同时还经过了 Stability AI 的额外过滤和微调,StableCode 将首先支持 Python、Go、Java、JavaScript、C、markdown 和 C++ 等编程语言的开发。

训练任何 LLM 都依赖于数据,StableCode 的数据来自 BigCode 项目。IT之家注意到,HuggingFace 和 ServiceNow 在 5 月份也曾推出了基于 BigCode 的开放 StarCoder LLM。Stability AI 的首席研究科学家 Nathan Cooper 称,StableCode 的训练涉及了对 BigCode 数据进行大量的过滤和清理。

StableCode 的长上下文窗口版本具有 16,000 个词元的上下文窗口,Stability AI 声称比任何其他模型都要大,更长的上下文窗口使得可以使用更专业和复杂的代码生成提示,还意味着用户可以让 StableCode 查看一个包含多个文件的中等大小的代码库,以帮助理解和生成新代码。

StableCode 目前还处于早期阶段,现在官方的目标是看看开发者会如何接受和使用该模型。

广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

声明:以上内容为本网站转自其它媒体,相关信息仅为传递更多企业信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。投资有风险,需谨慎。

猜你喜欢

300

热门文章