中文开源智谱本地部署 开源模型

ChatGLM 3

ChatGLM(智谱开源)系列 · 智谱AI · 2023–2024发布

开源支持本地部署国内可直连有免费额度长上下文

模型介绍

智谱与清华团队开源的对话模型系列,中文能力强,6B 参数即可流畅运行,接入自家开放平台生态,是国产开源对话模型的重要代表。

模型基础信息

模型系列ChatGLM(智谱开源)系列
开发机构智谱AI
发布时间2023–2024
参数规模6B
上下文窗口128K
模型类型文本
中文能力优秀
使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费 云 API 按量

免费规则详情

ChatGLM3 权重 MIT 免费商用;开放平台新用户有赠送额度。

收费标准简介

本地零成本;开放平台 glm 系按 token 计费。

模型能力介绍

✅ 核心优势

  • 中文能力强
  • 6B 轻量可本地跑
  • MIT 可商用
  • 高校学术背书

⚠️ 短板与局限

  • 通用能力弱于大模型
  • 生态工具依赖川大开放平台
  • 更新重心已转向 GLM 新系列

🎯 适用场景

  • 中文本地对话
  • 轻量部署
  • 教学与科研
  • 企业基座

模型使用教程

本章节整理 ChatGLM 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。

ChatGLM3 是国产最具代表性的开源对话模型之一,中文优秀、6B 轻量。

  • 本地:ollama run glm3
  • 云端:智谱开放平台 glm-3-turbo 等。
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download THUDM/chatglm3-6b --local-dir ./glm3
ollama run glm3 "用中文写一段自我介绍"

ChatGLM 是智谱开源的中文大模型(6B 系列),中文生成自然、单卡即可推理,MIT 可商用,适合私有化与科研。

  1. Ollama 一键:

ollama pull glm3:6b

  1. 交互使用:

ollama run glm3:6b

  1. transformers 加载(trust_remote_code):

python -c "from transformers import AutoModel, AutoTokenizer; m=AutoModel.from_pretrained('THUDM/chatglm3-6b', trust_remote_code=True, device_map='auto'); t=AutoTokenizer.from_pretrained('THUDM/chatglm3-6b', trust_remote_code=True); print(m.chat(t, '你好', history=[]))"

Tips:6B 约需 14GB 显存,量化后 8GB 可跑;中文对话与写作是强项。

💡 使用小技巧

本地体验:ollama run glm3 或 llama.cpp。

中文简单任务 6B 够用。

❓ 常见问题 FAQ

Q1:ChatGLM 和 GLM 什么关系?

A1:ChatGLM 是开源系列,GLM 新版本走商业 API。

Q2:有多好?

A2:中文突出,6B 即可用。

访问备注与注意事项