Exaone(LG) EXAONE 3.0
EXAONE系列 · LG AI Research · 2024-08发布
模型介绍
LG 旗下 EXAONE 开源中大型模型,支持韩英双语,32B 性能对标主流开源,企业场景设计。
模型基础信息
免费额度与收费政策
免费规则详情
EXAONE 许可(企业可商用,遵守条款)。
收费标准简介
本地零成本。
模型能力介绍
✅ 核心优势
- 32B 性能好
- 韩英双语
- 企业友好
- 开源
⚠️ 短板与局限
- 中文弱
- 生态小
- 许可有条款
🎯 适用场景
- 企业应用
- 韩语场景
- 开源基座
- 研究
模型使用教程
本章节整理 Exaone(LG) 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。
- 本地体验:
ollama run exaone或 Transformers / vLLM 加载。 - 云端:HF 托管模型可在线体验。
ollama run exaone "用中文介绍一下Exaone(LG)"
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download LG AI Research/EXAONE --local-dir ./exaone
或 ModelScope 国内直连下载。
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('LG AI Research/EXAONE')
tok = AutoTokenizer.from_pretrained('LG AI Research/EXAONE')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))
EXAONE 是 LG 开源的多语言模型(含中文),7.8B/24B 对单卡友好,官方提供 transformers 与 vLLM 教程。
- 安装依赖并加载(权重 hf-mirror 可下):
pip install transformers==4.52.4 accelerate
python -c "from transformers import AutoModelForCausalLM, AutoTokenizer; m=AutoModelForCausalLM.from_pretrained('LGAI-EXAONE/EXAONE-3.0-7.8B-Instruct', trust_remote_code=True, torch_dtype='float16').cuda(); t=AutoTokenizer.from_pretrained('LGAI-EXAONE/EXAONE-3.0-7.8B-Instruct', trust_remote_code=True); print(t.decode(m.generate(t('你好', return_tensors='pt').to('cuda'), max_new_tokens=64)[0], skip_special_tokens=True))"
- vLLM 生产部署:
vllm serve LGAI-EXAONE/EXAONE-3.0-7.8B-Instruct --trust-remote-code --port 8000
Tips:24B 需约 48GB 显存;7.8B 是成本与效果平衡之选。
💡 使用小技巧
LG 生态企业可用。
❓ 常见问题 FAQ
Q1:EXAONE 特色?\nA1:32B 双语企业模型。
访问备注与注意事项
- 权重 hf-mirror 可下
Aitishiku.com