新知榜官方账号
2023-10-15 16:36:12
StabilityAI是一家近期势头正盛的创业公司,因为开源的AI画图工具StableDiffusion而饱受好评。在本周三的发布中,该公司宣布其语言大模型StableLM现已可供开发人员在GitHub上使用和改编。
StableLM旨在高效地生成文本和代码,它在名为Pile的开源数据集的更大版本上进行训练,其中包含来自各种来源的信息,包括维基百科、StackExchange和PubMed,共22个数据集,容量达到825GB,1.5万亿个token。StableLM模型目前可用版本的参数在30亿到70亿之间,未来将有15亿到650亿范围的多种参数模型可用。
相比OpenAI的封闭,StabilityAI一直把自身定位为AI研究社区的一员,我们大概率会在StableLM上看到和上月发布的Meta开源LLaMa语言模型同样的情况。大量基于原版模型的算法可能会出现,在较小模型体量之上实现很好的效果。
StableLM的微调版聊天界面现在每个人都可以尝试在HuggingFace上托管的StableLM微调聊天模型上和AI进行对话,但StableLM模型仍然存在一些幻觉问题。虽然它使用的数据集应该有助于将基础语言模型引导到更安全的文本分布中,但并不是所有的偏见和毒性都可以通过微调来减轻。
StabilityAI表示将在不久的将来发布一份完整的技术报告,此外还将启动众包RLHF计划,并与OpenAssistant等社区合作,为AI聊天助手创建一个开源数据集。
相关工具
相关文章
推荐
中国首款3A游戏上线,《黑神话:悟空》出圈!
2024-08-21 13:46
盘点15款AI配音工具,短视频配音有救了!
2024-08-12 17:11
短视频文案没创意?10大AI写作工具来帮你!
2024-08-05 16:23
Midjourney发布V6.1版本,我已分不清AI和现实了!
2024-08-01 15:03
我发现了一款国产AI绘画神器,免费易上手!
2024-07-25 16:40
7位AI考生做今年高考题,能过一本线吗?
2024-07-19 17:17
世界上第一所AI学校来了,80亿人只需要1位老师?
2024-07-18 17:12
Sora首部AI广告片上线,广告从业者危险了!
2024-06-27 13:44
OpenAI与中国说拜拜,国产AI如何接棒?
2024-06-26 15:18
人与AI会产生爱情吗,专家发话了!
2024-06-17 17:28