【AI加油站】第一百三十四部：LangChain完全指南：从入门到实战，构建高复用、可扩展的LLM应用（附下载）

大语言模型爆发式增长，如何高效开发LLM应用？LangChain作为“瑞士军刀”般的开发框架，正在重新定义AI应用开发方式。本文为你系统梳理LangChain的核心思想、六大模块、实战技巧与进阶策略，一篇读懂LLM应用开发全流程。

一、大语言模型：开启人工智能新时代

1.1 什么是大语言模型？

大语言模型是一种建立在Transformer架构上的大规模神经网络程序。它通过“单字接龙”的方式训练——给定前面的文字，预测下一个字是什么。经过海量文本数据的训练，模型将语言知识编码进数百亿个参数中，从而具备了理解、推理和生成的能力。这就像一个婴儿逐渐长大，从一无所知到能够进行复杂的语言运算与推理。

1.2 大语言模型的发展

2022年11月，OpenAI发布ChatGPT，两个月内用户突破2亿。此后，GPT-4、Claude2、LLaMA2、PaLM2等模型相继问世。国内方面，百度文心一言、阿里通义千问、华为盘古、科大讯飞星火等模型也快速崛起。大语言模型正式进入“百花齐放”的时代。

1.3 大语言模型的应用场景

智能对话、文本生成、知识问答、文本总结、文本翻译、情感分析、数据分析、编程辅助、文档格式转换、信息抽取……几乎你能想到的所有语言任务，大语言模型都能参与其中。

1.4 核心基础知识

• 提示词：驱动LLM运行的命令。一个通用的提示词模板包括四个部分：定义角色、背景信息、任务目标、输出要求。

• Token：LLM理解和处理文本的基本单位。英文中一个Token可能是一个单词或子词，中文中一个汉字通常是一个Token。Token也是商用计费单位。

• 上下文长度：模型一次能处理的Token数量上限。超过上限，模型会“忘记”之前的对话。

• 幻觉：LLM生成看似合理但偏离事实的预测，本质原因是模型不理解知识，只是模仿训练数据中的模式。

• 微调：在预训练基础上，用特定领域数据进一步训练，使模型更擅长特定任务。OpenAI提供了API微调方式。

二、LangChain：LLM应用开发的“最后1公里”

2.1 为什么需要LangChain？

面对众多大语言模型平台（OpenAI、Hugging Face、Cohere等），每个平台都有各自的API协议，初学者容易望而却步。LangChain提供了统一接口，屏蔽底层差异。它像一把“瑞士军刀”，将训练模型、处理数据、解决兼容性等问题集成在一个框架内。开发者只需几行代码就能运行一个大型LLM程序，快速构建响应式机器人。

2.2 LangChain的两大关键词

• 组件：具有明确功能的单元，如模型包装器、文档加载器、向量存储库等。每个组件都有特定职责，像数据处理流水线上的各个工作站。

• 链：将各种组件连接在一起的纽带，确保组件之间无缝集成和高效调用。比如LLMChain可以整合模型包装器和记忆组件，让聊天机器人拥有“记忆”。

2.3 LangChain的三大典型场景

问答系统：从长篇文章或特定数据源中提取信息并生成准确回答。数据处理与管理（RAG）：检索增强生成，结合外部知识库提升回答质量。自动问答与客服机器人：实时响应用户查询，利用Agent功能动态调用工具。

2.4 LangChain的六大模块

• 模型I/O：统一接口调用LLM，管理提示词模板，解析输出格式。

• 数据增强：加载、转换、存储和查询外部数据，即LEDVR工作流。

• 链：将多个组件串联，解决复杂任务。

• 记忆：在对话中保持状态，支持历史信息引用。

• Agent：利用LLM作为推理引擎，动态选择执行动作和顺序。

• 回调处理器：在LLM应用各阶段插入自定义逻辑（日志、流式输出等）。

2.5 LangChain表达式（LCEL）

LangChain表达式使用管道操作符将组件串联，代码简洁直观。通过这种设计，开发者可以像说话一样编写代码，实现提示词模板、模型包装器和输出解析器的流畅组合。此外还支持bind方法绑定额外参数（如停止符、函数调用），以及RunnableMap实现并行分支处理。

三、模型I/O：与LLM对话的基础

3.1 模型包装器

LangChain提供两种模型包装器。LLM模型包装器用于文本补全类API，输入字符串，输出字符串。聊天模型包装器用于Chat类API，输入消息列表（包含系统消息、人类消息、AI消息），输出AI消息对象。聊天模型包装器之所以更复杂，是因为需要统一处理不同平台的对话格式，但这也使得开发者可以将更多注意力放在业务逻辑上。

3.2 提示词模板

提示词模板是可复制、可重用的生成提示词的工具。PromptTemplate用于生成字符串提示词，支持变量占位符。ChatPromptTemplate用于生成消息列表，支持系统、人类、AI三种角色。少样本提示词模板在提示词中加入示例，帮助模型理解任务，可配合示例选择器（按长度、相似度、n-gram等）动态选择最佳示例。此外还有Partial模板（预填部分变量）、PipelinePrompt（组合多个模板）、序列化模板（JSON/YAML存储）等高级功能。

3.3 输出解析器

输出解析器有两大功能：向提示词模板注入输出格式指令，以及将模型输出解析为结构化数据。常见解析器包括逗号分隔列表解析器、Pydantic JSON解析器、结构化输出解析器等。使用流程是：先获取预设的格式指令，注入提示词模板，然后调用模型，最后调用解析器的解析方法将文本转换为程序可直接使用的数据结构。

四、数据增强模块（LEDVR）：让LLM连接外部知识

LLM的训练数据有截止日期，且无法访问企业内部知识。数据增强模块通过五个步骤解决这一问题。

加载器从各种数据源加载文档，包括CSV、HTML、JSON、Markdown、PDF、在线网页等。每个文档包含文本内容和元数据。

嵌入模型包装器将文本转换为向量（浮点数列表），用于语义相似度计算。它提供两个主要方法：一个用于批量嵌入文档，另一个用于嵌入单个查询。

文档转换器主要是文本切割器，将长文档切分成语义连贯的小块。常用切割器有按字符递归切割、按代码语法切割、按Markdown标题切割、按Token数量切割等。合理的切割可以保证每个文本块在语义上尽可能一致，且能被模型平台处理。

向量存储库负责存储和检索嵌入向量。它类似于一个大的包装器，开发者只需将文档对象交给它，它会自动完成转换成字符串、生成向量、存储向量等一系列工作。支持多种相似性搜索方法，包括最大边际相关性搜索（兼顾相关性与多样性）。

检索器提供统一接口，从向量存储库中查询相关文档。通过调用向量存储库的“作为检索器”方法即可获得。检索器封装了底层数据库的复杂操作，让开发者可以轻松切换不同的向量存储库而无需修改查询代码。

五、链（Chain）：编排复杂工作流

链将多个组件串联，管理数据流动，是LEDVR工作流的终点。

基础链类型包括：LLM链（最简单的链，连接提示词模板和模型包装器）、路由器链（动态选择下一个要调用的链）、顺序链（按顺序执行多个链，有简单顺序链和通用顺序链两种）、转换链（自定义数据转换逻辑）。

四大合并文档链专门用于处理文档问答。Stuff链将所有文档一次性放入提示词中，适合短文档、少量文档。Refine链逐个文档迭代更新答案，适合长文档，但调用次数多。MapReduce链先对每个文档单独处理（Map），再将结果合并（Reduce），适合大量文档。重排链每个文档处理时给出置信度得分，最后返回得分最高的结果。

复杂链的“套娃”设计：很多高级链（如会话检索链）内部嵌套了多个子链。比如一个问答链内部可能包含LLM链、文档合并链，而文档合并链又包含LLM链。这种设计使链可以处理非常复杂的任务。

六、记忆模块：让对话拥有上下文

大语言模型本质上是无记忆的，每次交互只根据当前提示生成输出。记忆组件解决了这一问题，提供读写能力，在链或Agent中保存历史交互。

记忆组件的两大操作：在运行前读取历史信息并注入提示词，在运行后将输入输出写入记忆。

内置记忆组件对比：缓冲记忆保存全部对话，简单直接但Token消耗大。窗口记忆只保存最近k轮对话。Token缓冲记忆按Token数量截断。总结记忆利用LLM对历史对话生成摘要，节省Token但增加调用次数。总结缓冲记忆结合摘要与最近缓冲，兼顾压缩与实时性。实体记忆提取对话中的实体信息并积累关于实体的知识。知识图谱记忆构建小型知识图谱，存储实体间关系。

记忆增强检索与Agent：将记忆组件加入问答链，可使系统记住用户名字等上下文信息。将记忆组件加入Agent，Agent能理解代词指代，提升多轮对话的连贯性。

七、Agent模块：让LLM学会使用工具

Agent的核心思想是将LLM作为推理引擎，自主决定调用哪些工具以及调用顺序。

Agent的组成：Agent组件负责生成计划，输出下一步动作或最终答案。工具是具体的功能函数，如搜索、计算器、数据库查询、Python执行环境等。工具包是针对特定任务的工具集合。AgentExecutor是Agent的运行环境，负责执行动作、处理异常、记录日志。

常见Agent类型：零样本ReAct仅根据工具描述选择工具，适用广泛。结构化聊天零样本支持多输入工具。OpenAI函数专为函数调用模型设计。对话式ReAct专为对话场景设计，能记住历史。自问与搜索通过中间答案工具进行搜索式问答。ReAct文档存储与文档存储交互。

工具与工具包：LangChain内置大量工具，涵盖搜索、数学计算、终端命令、文件操作、邮件、项目管理、数据分析等。通过以“创建”为前缀的函数可以快速创建专用Agent，如CSV代理、Pandas数据框代理、SQL代理等。

Agent功能增强：可以为OpenAI函数Agent添加记忆组件，使其能记住用户名字等信息。也可以创建拥有多个检索问答工具的Agent，同时回答不同文档源的问题。

八、回调处理器：在关键节点插入自定义逻辑

回调处理器允许开发者在LLM应用的各个生命周期事件中执行自定义操作，包括链开始、链结束、LLM开始、LLM结束、工具开始、工具结束、错误发生等。

工作流程：调用链时传入回调处理器列表，内部通过运行管理器管理回调触发。每个回调处理器需继承基类，并重写相应方法，如LLM开始时、LLM结束时、链出错时等。

内置回调处理器：标准输出处理器将事件打印到控制台，文件处理器将日志写入文件，流式标准输出处理器支持流式输出。

自定义回调处理器：开发者可以自行实现类，用于日志记录、性能监控、流式输出到WebSocket、将结果存入数据库等。

使用回调处理器的好处包括模块化与可重用性、灵活性、与LangChain框架紧密集成、代码清晰易于维护。

九、实战应用：用LangChain构建真实程序

PDF问答程序：流程包括加载PDF、切割文档、生成嵌入向量、存储到向量库、创建检索问答链。用户提问后，系统检索相关文档片段，再由LLM生成答案。支持多轮对话记忆，让问答更自然。

对话式表单：利用OpenAI函数调用和标记链，从用户对话中提取结构化信息，如姓名、日期、地址等。系统逐步填充表单字段，并支持字段验证和更新。这种方式让表单填写变成自然对话，提升用户体验。

BabyAGI：任务驱动的自主Agent，使用LLM生成新任务、优先级排序、执行任务，并循环迭代。LangChain实现了BabyAGI的简化版，包含任务链、向量存储和Agent执行器。它展示了AI驱动的语言模型在各种约束和背景下自主执行任务的潜力。

十、集成指南：连接外部生态

LangChain支持与大量第三方平台集成，提供统一接口。

LLM集成：包括Azure OpenAI、Hugging Face Hub、Cohere、Anthropic、PaLM2等。无论使用哪个平台，调用方式都是一致的。

聊天模型集成：支持Anthropic、PaLM2、OpenAI等主流聊天模型。

向量库集成：支持Chroma（本地轻量级）、Pinecone（云服务）、Milvus（云/本地均可）等。

嵌入模型集成：包括Hugging Face嵌入、LlamaCpp嵌入、Cohere嵌入等。

Agent工具包集成：CSV代理、Pandas数据框代理、PowerBI数据集代理等，让Agent可以直接操作常见数据格式。

检索器集成：支持Wikipedia、Arxiv、Azure认知搜索等，方便获取外部知识。

十一、LLM应用开发必学知识

文本嵌入：将文本映射到高维向量空间，语义相似的文本在空间中距离更近。余弦相似度是常用度量。

注意力机制：Transformer的核心，允许模型在处理一个词时“关注”句子中其他相关词，从而捕捉长距离依赖。

Transformer模型：由编码器和解码器组成，通过自注意力和前馈网络堆叠而成，是大语言模型的基石。

语义搜索与RAG：语义搜索基于向量相似度而非关键词匹配，能理解用户意图。RAG（检索增强生成）先检索相关文档片段，再让LLM基于这些片段生成答案，有效缓解幻觉问题。

NLP与机器学习基础：文本预处理包括分词、去除停用词、词干提取等。分类器构建可以使用传统机器学习方法（朴素贝叶斯、支持向量机）或基于嵌入的深度学习。

十二、总结与展望

LangChain是一个充满活力的开源生态，正在从0.3.x向1.0稳步迈进。它极大地降低了LLM应用的开发门槛，让开发者可以专注于业务逻辑，而无需重复造轮子。无论是简单的聊天机器人，还是复杂的多工具Agent，LangChain都提供了优雅的解决方案。

未来，随着计划执行型Agent、自主Agent、生成式Agent等实验性概念的成熟，LangChain将继续引领LLM应用开发的浪潮。希望本文能帮助你在LLM开发的道路上走得更稳、更远。

附：主流模型与工具概览

本书涉及的主要模型平台包括OpenAI（GPT-4、GPT-3.5-Turbo、文本嵌入模型）、Anthropic Claude2、Google PaLM2、Hugging Face Hub等。向量库包括FAISS、Chroma、Pinecone、Milvus。工具包括SerpAPI、Wikipedia、Arxiv、Power BI、CSV、Pandas等。所有示例代码均基于Python，读者可在GitHub仓库获取。

【AI加油站】第八部：《模式识别（第四版）-模式识别与机器学习》（附下载）