Mistral代码开源补全开源模型

Codestral（开源） Codestral 22B

Codestral系列 · Mistral AI · 2024-05发布

开源支持本地部署国内可直连有免费额度长上下文代码专用

🔗 官方体验地址 → 📄 API文档地址 → 📥 模型下载地址 →

模型介绍

Codestral 开源代码模型，22B 参数，专注代码补全与生成，MNPL 许可限制商业用途，与 CODESTRAL 工具链配套。

模型基础信息

模型系列Codestral系列

开发机构Mistral AI

发布时间2024-05

参数规模22B

上下文窗口32K

模型类型文本（代码专用）

中文能力良好

使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源（非商业）

免费规则详情

MNPL 限制商业；商业用 API。

收费标准简介

本地免费（非商业）；API 计费。

模型能力介绍

✅ 核心优势

代码能力优�
FIM 填充
IDE 友好
开源

⚠️ 短板与局限

非商业许可
中文注释一般
偏代码

🎯 适用场景

代码补全
代码生成
插件
研究

模型使用教程

本章节整理 Codestral（开源）的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。

本地体验：ollama run codestral-open 或 Transformers / vLLM 加载。
云端：HF 托管模型可在线体验。

ollama run codestral-open "用中文介绍一下Codestral（开源）"

HF_ENDPOINT=https://hf-mirror.com huggingface-cli download Mistral AI/Codestral --local-dir ./codestral-open

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('Mistral AI/Codestral')
tok = AutoTokenizer.from_pretrained('Mistral AI/Codestral')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

Codestral 是 Mistral 开源的 22B 代码模型（MNPL 许可），量化后 16GB 显存可跑，FIM 补全格式对 IDE 友好。

安装 vLLM：

pip install vllm

下载权重并启动 OpenAI 兼容服务：

vllm serve mistralai/Codestral-22B-v0.1 --port 8000

在 Continue / Tabby 等插件中把 base URL 填 http://localhost:8000/v1 即可接入编写代码。

Tips：MNPL 限制商业用途；个人/研究免费。2bit 量化可降到 12GB 级。

💡 使用小技巧

local 配 Continue 用。

❓ 常见问题 FAQ

Q1：Codestral 能商用吗？\nA1：MNPL 限制，需 API。

访问备注与注意事项

权重 hf-mirror 可下