MIT中文开源智谱 开源模型
GLM-4-9B(开源) GLM-4-9B
GLM-4系列 · 智谱AI · 2024-06发布
模型介绍
智谱开源 GLM-4-9B,综合能力对标主流开源,128K 上下文,中文优秀且 MIT 免费商用,是国产开源新标杆之一。
模型基础信息
模型系列GLM-4系列
开发机构智谱AI
发布时间2024-06
参数规模9B
上下文窗口128K
模型类型文本
中文能力优秀
使用方式网页体验 / API调用 / 本地部署
免费额度与收费政策
开源免费
免费规则详情
MIT 可商用。
收费标准简介
本地零成本。
模型能力介绍
✅ 核心优势
- 中文强
- 128K
- MIT 商用
- 9B 部署友好
⚠️ 短板与局限
- 能力弱于大模型
- 生态较新
- 英文一般
🎯 适用场景
- 中文应用
- 长文档
- 本地部署
- 微调
模型使用教程
本章节整理 GLM-4-9B(开源) 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。
- 本地体验:
ollama run glm-4-9b或 Transformers / vLLM 加载。 - 云端:HF 托管模型可在线体验。
ollama run glm-4-9b "用中文介绍一下GLM-4-9B(开源)"
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download 智谱AI/GLM-4-9B --local-dir ./glm-4-9b
或 ModelScope 国内直连下载。
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('智谱AI/GLM-4-9B')
tok = AutoTokenizer.from_pretrained('智谱AI/GLM-4-9B')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))
GLM-4-9B 是智谱开源的中文大模型(MIT 可商用),9B 量化后 8GB 显存可跑,中文能力强。
- Ollama 一行命令:
ollama pull glm4:9b
- 使用:
ollama run glm4:9b "用中文写一首五言绝句"
- transformers / vLLM:
pip install vllm && vllm serve THUDM/glm-4-9b-chat --trust-remote-code --port 8000
Tips:128K 长上下文;中文、推理、工具调用都稳,个人本地首选。
💡 使用小技巧
ollama run glm4 支持。
❓ 常见问题 FAQ
Q1:GLM-4-9B 许可?\nA1:MIT 完全商用。
访问备注与注意事项
- 权重 hf-mirror 可下
Aitishiku.com