CohereMoERAG开放权重 闭源大模型·海外

Cohere Command A Command A

Cohere Command A系列 · Cohere · 2025-03发布

开源支持本地部署多模态有免费额度长上下文代码专用

模型介绍

Cohere 开放权重旗舰模型,MoE 架构 111B,原生多语言(含中文)能力优秀,面向企业检索增强(RAG)与 Agent 场景。

模型基础信息

模型系列Cohere Command A系列
开发机构Cohere
发布时间2025-03
参数规模111B(MoE)
上下文窗口256K
模型类型多模态(文本+图像)
中文能力优秀
使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开放权重(非商业) API 计费

免费规则详情

权重可下载用于非商业;API 按量计费。

收费标准简介

按 token 计费(以 cohere.com 为准)。

模型能力介绍

✅ 核心优势

  • 多语言优�
  • RAG 与企业场景强
  • MoE 推理高效
  • 开放权重

⚠️ 短板与局限

  • 非商业许可
  • 国内直连受限
  • 生态小于主流

🎯 适用场景

  • 企业 RAG
  • 多语言 Agent
  • 文档理解
  • 数据检索

模型使用教程

本章节整理 Cohere Command A 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。

  • 体验:Cohere Command A 官方产品(Web / 订阅)。
  • 开发:通过官方 API 接入,模型标识 command-a-03-2025

API 提供流式与非流式对话,支持系统提示词、工具调用等能力。

curl https://api.cohere.com/v2/chat \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"command-a-03-2025","messages":[{"role":"user","content":"用中文介绍一下Cohere Command A"}]}'
  1. 注册 Cohere 账号并完成实名认证。
  2. 进入开发者控制台创建 API Key,并按需充值。
export API_KEY=sk-xxxx
import requests
resp = requests.post('https://api.cohere.com/v2/chat', headers={'Authorization': f'Bearer {API_KEY}'}, json={'model': 'command-a-03-2025', 'messages': [{'role': 'user', 'content': '你好'}]})
print(resp.json()['choices'][0]['message']['content'])

Command A 开放权重(111B MoE),可用 vLLM/SGLang 在本地部署,但显存门槛高。

  1. 安装 vLLM:pip install vllm(v0.8+ 支持 Command A)。
  2. 下载权重(CohereForAI/aya-expanse-32b 级别,或 command-r 系列;hf-mirror 可下)后启动 OpenAI 兼容服务:

vllm serve CohereForAI/aya-command-111b --tensor-parallel-size 8 --max-model-len 8192

  1. 接入测试(OpenAI SDK 兼容端口 8000):

curl http://localhost:8000/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"aya-command-111b","messages":[{"role":"user","content":"用中文介绍自己"}]}'

Tips:量化后(4bit)显存可降到 24-32GB;演示可用更小的 memeos/aperture 或本地量化版。

💡 使用小技巧

企业知识库场景突出。

❓ 常见问题 FAQ

Q1:Command A 特色?\nA1:多语言+RAG 能力强。

访问备注与注意事项