Apple小模型开源端侧开源模型

OpenELM OpenELM

OpenELM系列 · Apple · 2024-04发布

开源支持本地部署国内可直连有免费额度

🔗 官方体验地址 → 📄 API文档地址 → 📥 模型下载地址 →

模型介绍

Apple 开源的小语言模型 OpenELM，端侧目标导向，全尺寸权重公开，是苹果入局的端侧代表。

模型基础信息

模型系列OpenELM系列

开发机构Apple

发布时间2024-04

参数规模270M ~ 3B

上下文窗口2K~4K

模型类型文本

中文能力—

使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

Apple 许可（类似示例用途，注意条款）。

收费标准简介

本地零成本。

模型能力介绍

✅ 核心优势

端侧设计
小尺寸
pple 背书
开源

⚠️ 短板与局限

能力有限
许可非完全商用
生态小

🎯 适用场景

端侧实验
移动设备
教学
研究

模型使用教程

本章节整理 OpenELM 的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。

本地体验：ollama run openelm 或 Transformers / vLLM 加载。
云端：HF 托管模型可在线体验。

ollama run openelm "用中文介绍一下OpenELM"

HF_ENDPOINT=https://hf-mirror.com huggingface-cli download Apple/OpenELM --local-dir ./openelm

或 ModelScope 国内直连下载。

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('Apple/OpenELM')
tok = AutoTokenizer.from_pretrained('Apple/OpenELM')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))

OpenELM 是 Apple 开源的小模型（270M~3B），专为端侧设计，笔记本 CPU 即可跑，适合隐私场景。

transformers 加载：

pip install transformers==4.39.3

python -c "from transformers import AutoModelForCausalLM, AutoTokenizer; m=AutoModelForCausalLM.from_pretrained('apple/OpenELM-1_1B-Instruct'); t=AutoTokenizer.from_pretrained('apple/OpenELM-1_1B-Instruct')"

端侧优化用 apple/corenet 转换到 Core ML（iPhone/Mac）。

Tips：规模小能力有限，适合简单摘要/分类；纯 CPU 也能流畅跑。

💡 使用小技巧

苹果端侧 AI 的窗口。

❓ 常见问题 FAQ

Q1：OpenELM 意义？\nA1：Apple 端侧开源实验。

访问备注与注意事项

权重 hf-mirror 可下