bloom bigscience
- 类型
- model
- 任务
- text-generation
- 框架
- transformers
- 下载量
- 15,128
- 点赞
- 5,035
- 访问
- public
- 文件
- 0
标签
- 文本生成
- 大语言模型
- 多语言
- 代码生成
- 生成式AI
- transformers
- 预训练
- NLP
摘要
BLOOM 是 BigScience 项目开源的大型自回归语言模型，拥有1760亿参数，在工业级算力上预训练了366B tokens。它能在46种自然语言和13种编程语言上生成连贯文本，并可通过将任务转化为文本续写来实现零样本完成翻译、代码生成、数学推理等多种文本任务。适用于多语言文本生成、代码生成及开源大语言模型研究与部署场景。
README
--- license: bigscience-bloom-rail-1.0 language: - ak - ar - as - bm - bn - ca - code - en - es - eu - fon - fr - gu - hi - id - ig - ki - kn - lg - ln - ml - mr - ne - nso - ny - or - pa - pt - rn - rw - sn - st - sw - ta - te - tn - ts - tum - tw - ur - vi - wo - xh - yo - zh - zu programming_lan…