WizardLM开源微调指令开源模型

WizardLM 2

WizardLM系列 · 微软 + 中国科学院 · 2023-06发布

开源支持本地部署国内可直连有免费额度长上下文代码专用

🔗 官方体验地址 → 📄 API文档地址 → 📥 模型下载地址 →

模型介绍

WizardLM 通过 Evol-Instruct 进化指令微调，复杂指令跟随强，是早期爆款微调模型系列。

模型基础信息

模型系列WizardLM系列

开发机构微软 + 中国科学院

发布时间2023-06

参数规模7B / 13B / 70B

上下文窗口16K

模型类型文本

中文能力一般

使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

开源可商用（遵守许可）。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

指令跟随强
微调方法知名
多尺寸
开源

⚠️ 短板与局限

能力落后
中文一般
生态依赖基座

🎯 适用场景

复杂指令
对话应用
教学
微调研究

模型使用教程

本章节整理 WizardLM 的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。

本地体验：ollama run wizardlm 或 Transformers / vLLM 加载。
云端：HF 托管模型可在线体验。

ollama run wizardlm "用中文介绍一下WizardLM"

HF_ENDPOINT=https://hf-mirror.com huggingface-cli download 微软 + 中国科学院/WizardLM --local-dir ./wizardlm

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('微软 + 中国科学院/WizardLM')
tok = AutoTokenizer.from_pretrained('微软 + 中国科学院/WizardLM')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

WizardLM 是微软/华中科大系的指令微调模型（7B/13B/70B），中文指令跟随能力在其时代领先。

Ollama：

ollama pull wizardlm

使用：

ollama run wizardlm

vLLM：

pip install vllm && vllm serve TheBloke/WizardLM-13B-V1.2-GPTQ --quantization gptq --port 8000

Tips：模型较老，仅适合教学或老业务；生产建议用更新的国产模型。

💡 使用小技巧

Evol-Instruct 方法论影响深远。

❓ 常见问题 FAQ

Q1：WizardLM 特色？\nA1：进化指令数据。

访问备注与注意事项

权重 hf-mirror 可下