大模型应用开发：方法与案例

（1） 案例驱动，实战导向：融合7个高价值业务场景，从需求分析到系统搭建，完整打通LLM应用开发闭环。
（2）覆盖主流框架，快速上手可落地：聚焦LangChain、LangChain4j、LlamaIndex三大主流框架，详细讲解功能、用法与适配策略，配套代码“即插即用”，大幅降低门槛。
（3）基于场景构建开发方法论：从Prompt工程、Agent设计到外部工具集成、函数调用，剖析复杂大模型系统的构建方式，将模型能力实际融入业务价值。
（4）重塑AI应用开发思维：不仅讲工具和代码，更提供系统架构设计思路、技术选型逻辑、能力边界认知，帮助开发者构建高可用、易维护、具拓展性的企业级AI应用。
（5）作者技术背景资深，内容可靠实用：作者深耕AI系统架构与应用实战，结合真实复杂的业务背景，选择贴近实际的内容，广泛适配行业场景。

这是一本案例驱动的LLM应用开发指南，适合具备一定编程基础的开发者阅读。通过本书，读者可以在短时间内掌握多种类型的LLM应用的开发方法，以及基于现实中的业务场景设计并实现符合用户真实诉求的AI系统。对此，本书提供了丰富的“即插即用”的案例代码和最佳实践。
本书分为8章，全面阐述LLM应用的技术体系、开发模式和落地案例，具体内容如下：
第1章 先介绍LLM的基本概念和应用场景，然后介绍LLM应用开发的核心技术，并引出主流的集成性开发框架。
第2～8章 分析大语言模型应用的场景案例，即基于常见业务场景，梳理LLM应用的系统架构和实现过程，并采用主流的开源框架完成案例场景的开发落地。每章讲解一个系统案例，包含翻译器工具、通用的文档检索助手、纠错型RAG应用、智能化的简历匹配服务、多模态处理器、定制化Agent开发、混合Agent架构设计7个具体的案例。针对每一个案例，都提供具体的应用场景分析和系统架构设计，强调其背后通用的设计思想和应用方法。同时，案例中结合LangChain、LangChain4j、LlamaIndex这3款主流的开发框架，详细介绍其功能特性、使用方法和开发实现。

CONTENTS<br />目　录<br />前言<br />第1章　大语言模型应用开发体系1<br />1.1　大语言模型应用开发概述1<br />1.1.1　大语言模型应用场景1<br />1.1.2　大语言模型应用开发的核心技术4<br />1.2　大语言模型集成性开发框架11<br />1.2.1　集成性开发框架的功能特性11<br />1.2.2　代表性开发框架12<br />1.3　本章小结18<br />第2章　实现并重构一个翻译器工具19<br />2.1　基于OpenAI API实现翻译器19<br />2.1.1　引入OpenAI LLM19<br />2.1.2　OpenAI API对接21<br />2.1.3　构建翻译器工具V1.027<br />2.2　基于LangChain重构翻译器28<br />2.2.1　LangChain集成OpenAI LLM29<br />2.2.2　使用PromptTemplate创建提示词33<br />2.2.3　构建LLMChain37<br />2.2.4　构建翻译器工具V2.043<br />2.3　本章小结44<br />第3章　构建通用的文档检索助手45<br />3.1　RAG解析45<br />3.1.1　RAG技术的核心概念45<br />3.1.2　RAG应用开发流程46<br />3.2　基于LangChain4j实现文档检索助手48<br />3.2.1　LangChain4j的聊天模型48<br />3.2.2　LangChain4j的RAG技术组件53<br />3.3　使用高级RAG技术实现强化版文档检索助手61<br />3.3.1　查询压缩61<br />3.3.2　查询路由62<br />3.4　本章小结64<br />第4章　开发纠错型RAG应用66<br />4.1　纠错型RAG应用的核心组件67<br />4.2　基于LangChain4j Workflow实现工作流67<br />4.2.1　LangChain4j Workflow的工作原理68<br />4.2.2　LangChain4j Workflow的实现76<br />4.3　基于工作流实现CRAG应用79<br />4.3.1　CRAG应用的通用开发步骤79<br />4.3.2　CRAG应用开发的工作流88<br />4.3.3　测试和验证91<br />4.4　本章小结93<br />第5章　设计智能化的简历匹配服务94<br />5.1　简历匹配服务与RAG技术94<br />5.2　基于LlamaIndex实现简历匹配服务96<br />5.2.1　LlamaIndex的RAG技术组件96<br />5.2.2　设计简历数据提取管道99<br />5.2.3　创建和存储简历索引102<br />5.3　简历匹配优化策略105<br />5.3.1　构建混合检索器105<br />5.3.2　检索结果重排序108<br />5.3.3　基于Streamlit构建交互界面110<br />5.4　本章小结115<br />第6章　开发多模态处理器116<br />6.1　多模态处理的场景分析116<br />6.2　基于LangChain进行图像处理117<br />6.2.1　图像解析117<br />6.2.2　图像生成125<br />6.3　基于LangChain进行语音处理127<br />6.3.1　自动语音识别127<br />6.3.2　文本转语音129<br />6.4　多模态处理器的系统整合132<br />6.4.1　对话机制集成132<br />6.4.2　回调和流式处理135<br />6.5　本章小结139<br />第7章　定制化Agent开发实战140<br />7.1　Agent的运行机制140<br />7.2　LlamaIndex的Tool和Agent组件141<br />7.2.1　Tool141<br />7.2.2　OpenAIAgent148<br />7.2.3　ReActAgent151<br />7.2.4　AgentRunner和Agent-Worker156<br />7.3　构建自定义Agent158<br />7.3.1　自定义Agent的场景分析158<br />7.3.2　创建Tool组件159<br />7.3.3　实现自定义Agent163<br />7.3.4　测试和验证168<br />7.4　本章小结171<br />第8章　混合Agent架构设计实战172<br />8.1　MoA架构解析172<br />8.2　基于LangChain4j实现MoA架构173<br />8.2.1　MoA架构的实现步骤174<br />8.2.2　构建MoA工作流178<br />8.3　基于LangChain实现MoA架构185<br />8.3.1　文档嵌入和检索185<br />8.3.2　构建MoA架构的主流程192<br />8.3.3　整合MoA架构、Agent与向量数据197<br />8.4　本章小结204