AgentLangChain开源框架本地部署模型

LangChain LangChain 0.3

LangChain系列 · LangChain（Anthropic 分拆） · 2022-10发布

开源支持本地部署国内可直连有免费额度代码专用

🔗 官方体验地址 → 📄 API文档地址 → 📥 模型下载地址 →

模型介绍

LangChain 是最流行的 LLM 应用开发框架，链式调用、Agent、RAG 组件丰富，社区生态巨大。

模型基础信息

模型系列LangChain系列

开发机构LangChain（Anthropic 分拆）

发布时间2022-10

参数规模LLM 应用框架

上下文窗口—

模型类型LLM 应用框架

中文能力良好

使用方式网页体验 / API调用 / 本地部署

免费额度与收费政策

开源免费

免费规则详情

MIT 免费（LangSmith 云可选）。

收费标准简介

框架免费，云服务另计。

模型能力介绍

✅ 核心优势

生态最大
gent/RAG
集成 500+
文档丰富

⚠️ 短板与局限

PI 变动多
学习成本高
抽象层级深

🎯 适用场景

gent 应用
RAG
工作流编排
企业集成

模型使用教程

本章节整理 LangChain 的在线体验、API调用、本地部署全套入门教程，快速上手使用该模型。

本地工具，安装后即可使用。
支持对接主流模型与本地推理引擎。

启动服务后按提示操作即可。

export HF_ENDPOINT=https://hf-mirror.com

模型权重通过 HuggingFace 镜像或 ModelScope 下载。

提供 HTTP API：

curl http://localhost:PORT/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"default","messages":[{"role":"user","content":"你好"}]}'

LangChain 是大模型应用开发框架，把本地模型接入后即可编排 Agent、工具调用与 RAG。

安装：

pip install langchain langchain-community

接入本地 Ollama：

python -c "from langchain_community.llms import Ollama; llm=Ollama(model='qwen2.5:7b', base_url='http://localhost:11434'); print(llm.invoke('你好'))"

构建 RAG：结合 langchain 的 loader + vectorstore（Chroma/FAISS）+ Retriever 组成问答链路。

Tips：vLLM 用户用 from langchain_community.llms import VLLM 或 OpenAI 兼容包装；官方文档有中文教程。

💡 使用小技巧

pip install langchain 起步。

❓ 常见问题 FAQ

Q1：LangChain 干嘛的？\nA1：LLM 应用开发框架。

访问备注与注意事项

Python/JS 双端