Aitishiku.com
Meta多模态开源端侧 开源模型
Llama 3.2（端侧多模态） 3.2
Llama系列 · Meta AI · 2024-09发布
模型介绍
Meta 开源的代表端侧与多模态的 Llama 3.2，1B/3B 面向移动端，11B/90B 新增视觉理解，指令遵循强。
模型基础信息
模型系列Llama系列
开发机构Meta AI
发布时间2024-09
参数规模1B / 3B / 11B / 90B
上下文窗口128K
模型类型多模态（文本+图像）
中文能力良好
使用方式网页体验 / API调用 / 本地部署
免费额度与收费政策
开源免费
免费规则详情
社区许可，免费商用（遵守条款）。
收费标准简介
本地零成本。
模型能力介绍
✅ 核心优势
- 端侧小尺寸可选
- 多模态视觉
- 指令遵循强
- 生态大
⚠️ 短板与局限
- 中文弱于国产
- 许可有条款
- 大尺寸需高显存
🎯 适用场景
- 手机端应用
- 图像理解
- 本地助手
- 嵌入式
模型使用教程
本章节整理 Llama 3.2（端侧多模态） 的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。
- 本地体验：
ollama run llama-3-2或 Transformers / vLLM 加载。 - 云端：HF 托管模型可在线体验。
ollama run llama-3-2 "用中文介绍一下Llama 3.2（端侧多模态）"HF_ENDPOINT=https://hf-mirror.com huggingface-cli download Meta AI/Llama 3.2 --local-dir ./llama-3-2或 ModelScope 国内直连下载。
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('Meta AI/Llama 3.2')
tok = AutoTokenizer.from_pretrained('Meta AI/Llama 3.2')
code = tok.apply_chat_template([{'role':'user','content':'你好'}], tokenize=False)
print(model.generate(**tok(code, return_tensors='pt')))Llama 3.2 推出小尺寸（1B/3B）与大模型（11B/90B 视觉），1B/3B 端侧友好、11B 视觉单卡可跑。
- 小尺寸（Ollama，手机/笔记本可跑）：
ollama pull llama3.2:3b
- 交互使用：
ollama run llama3.2:3b
- 多模态 11B（需约 24GB 显存）：
pip install vllm && vllm serve meta-llama/Llama-3.2-11B-Vision-Instruct --port 8000
Tips：3B 端侧量化后 2~3GB；90B 视觉建议云 API。
💡 使用小技巧
ollama pull llama3.2 直接体验。
❓ 常见问题 FAQ
Q1：3.2 和 3.1 区别？\nA1：新增小尺寸与视觉多模态。
访问备注与注意事项
- 权重 hf-mirror 可下