BLOOM多语言开源社区开源模型

BLOOM（BigScience） BLOOM-176B

BLOOM系列 · BigScience（HuggingFace 组织） · 2022-11发布

开源支持本地部署国内可直连有免费额度

🔗 官方体验地址 → 📄 API文档地址 → 📥 模型下载地址 →

模型介绍

BigScience 社区开源的 176B 多语言模型，覆盖 59 种语言，是史上最大开放科学项目之一，伦理许可先行者。

模型基础信息

模型系列BLOOM系列

开发机构BigScience（HuggingFace 组织）

发布时间2022-11

参数规模176B

上下文窗口2K

模型类型文本

中文能力一般

使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

RAIL 许可可商用（遵守条款）。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

多语�
社区开放
大规模
伦理许可

⚠️ 短板与局限

能力落后
2K 上下文
部署门槛高

🎯 适用场景

多语言研究
教学
社区实验
对比研究

模型使用教程

本章节整理 BLOOM（BigScience）的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。

本地体验：ollama run bloom 或 Transformers / vLLM 加载。
云端：HF 托管模型可在线体验。

ollama run bloom "用中文介绍一下BLOOM（BigScience）"

HF_ENDPOINT=https://hf-mirror.com huggingface-cli download BigScience（HuggingFace 组织）/BLOOM --local-dir ./bloom

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('BigScience（HuggingFace 组织）/BLOOM')
tok = AutoTokenizer.from_pretrained('BigScience（HuggingFace 组织）/BLOOM')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

BLOOM 是 BigScience 开源的 176B 多语言模型，全量部署需要 8×A100；个人可用 7B 或 3B 版本。

下载小版本权重（bigscience/bloomz-7b1-mt，hf-mirror 可下）并用 transformers 加载：

python -c "from transformers import AutoModelForCausalLM, AutoTokenizer; m=AutoModelForCausalLM.from_pretrained('bigscience/bloomz-7b1-mt', torch_dtype='float16').cuda(); t=AutoTokenizer.from_pretrained('bigscience/bloomz-7b1-mt'); print(m.generate(t('你好', return_tensors='pt').to('cuda'), max_new_tokens=32)[0])"

大集群部署 176B 用 vLLM 多卡：

vllm serve bigscience/bloom --tensor-parallel-size 8 --port 8000

Tips：BLOOM 中文能力一般，中文场景优先国产模型；小规模实验用 bloom-1b7 即可。

💡 使用小技巧

了解开放科学必看。

❓ 常见问题 FAQ

Q1：BLOOM 特点？\nA1：多语言开放科学。

访问备注与注意事项

权重 hf-mirror 可下