LG企业开源韩语 开源模型

Exaone(LG) EXAONE 3.0

EXAONE系列 · LG AI Research · 2024-08发布

开源支持本地部署国内可直连有免费额度长上下文代码专用

模型介绍

LG 旗下 EXAONE 开源中大型模型,支持韩英双语,32B 性能对标主流开源,企业场景设计。

模型基础信息

模型系列EXAONE系列
开发机构LG AI Research
发布时间2024-08
参数规模7.8B / 24B / 32B
上下文窗口4K~32K
模型类型文本
中文能力
使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

EXAONE 许可(企业可商用,遵守条款)。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

  • 32B 性能好
  • 韩英双语
  • 企业友好
  • 开源

⚠️ 短板与局限

  • 中文弱
  • 生态小
  • 许可有条款

🎯 适用场景

  • 企业应用
  • 韩语场景
  • 开源基座
  • 研究

模型使用教程

本章节整理 Exaone(LG) 的在线体验、API调用、本地部署全套入门教程,快速上手使用该模型。

  • 本地体验:ollama run exaone 或 Transformers / vLLM 加载。
  • 云端:HF 托管模型可在线体验。
ollama run exaone "用中文介绍一下Exaone(LG)"
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download LG AI Research/EXAONE --local-dir ./exaone

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('LG AI Research/EXAONE')
tok = AutoTokenizer.from_pretrained('LG AI Research/EXAONE')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

EXAONE 是 LG 开源的多语言模型(含中文),7.8B/24B 对单卡友好,官方提供 transformers 与 vLLM 教程。

  1. 安装依赖并加载(权重 hf-mirror 可下):

pip install transformers==4.52.4 accelerate

python -c "from transformers import AutoModelForCausalLM, AutoTokenizer; m=AutoModelForCausalLM.from_pretrained('LGAI-EXAONE/EXAONE-3.0-7.8B-Instruct', trust_remote_code=True, torch_dtype='float16').cuda(); t=AutoTokenizer.from_pretrained('LGAI-EXAONE/EXAONE-3.0-7.8B-Instruct', trust_remote_code=True); print(t.decode(m.generate(t('你好', return_tensors='pt').to('cuda'), max_new_tokens=64)[0], skip_special_tokens=True))"

  1. vLLM 生产部署:

vllm serve LGAI-EXAONE/EXAONE-3.0-7.8B-Instruct --trust-remote-code --port 8000

Tips:24B 需约 48GB 显存;7.8B 是成本与效果平衡之选。

💡 使用小技巧

LG 生态企业可用。

❓ 常见问题 FAQ

Q1:EXAONE 特色?\nA1:32B 双语企业模型。

访问备注与注意事项