VIP20
本课程属于：006 vLLM AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

vLLM与LangChain集成开发实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · vLLM与LangChain集成开发…
课程导入学习目标
02
环境搭建
Python环境 · CUDA/GPU配置 · 安装vLLM与LangChain
环境搭建Python
03
vLLM核心概念
PagedAttention · Continuous Batchin… · KV Cache
vLLM核心概念
04
LangChain核心概念
Chain · Agent · Tool
LangChain核心概念
05
vLLM基础使用
加载模型 · 推理调用 · 生成参数（temperature
vLLM基础使用
06
LangChain基础使用
LLM接口抽象 · Prompt模板 · 输出解析器
LangChain基础使用
07
vLLM与LangChain集成方式
通过LangChain的LLM包装器 · 自定义LLM类 · 或OpenAI兼容API接入
vLLMLangChain
08
使用OpenAI兼容API集成
启动vLLM服务 · 配置LangChain的OpenAI… · 实现无缝调用
OpenAIAPI
09
自定义LLM类集成
继承LangChain的BaseLL… · 实现vLLM的调用逻辑
LLM自定义
10
异步与流式处理
在LangChain中实现vLLM的… · 异步调用及实时交互
异步流式处理
11
Prompt工程与模板管理
结合vLLM优化Prompt设计 · 使用LangChain的Prompt…
Prompt工程
12
输出解析与结构化生成
使用LangChain的Output… · 列表等结构化数据
输出解析结构化生成
13
记忆与对话管理
集成vLLM实现多轮对话 · 使用LangChain的Conver… · SummaryMemory等
记忆对话管理
14
检索增强生成（RAG）基础
RAG原理 · 向量数据库（如FAISS · Chroma）与LangChain的…
RAG检索增强生成
15
RAG实战
使用vLLM作为生成模型 · 结合LangChain的Retrie…
RAGvLLM
16
Agent与工具调用
使用LangChain的Agent框… · 让vLLM模型调用外部工具（如搜索 · 计算器）
Agent工具调用
17
多模型管理与路由
在LangChain中配置多个vLL… · 实现模型路由 · 负载均衡与故障切换
多模型管理路由
18
性能调优
vLLM的批处理大小 · GPU内存优化 · 并发请求设置
性能调优vLLM
19
缓存与加速
使用vLLM的Prefix Cach… · LangChain的缓存机制（如SQ…
缓存加速
20
错误处理与重试机制
处理vLLM服务异常 · 超时 · 限流
错误处理重试机制
21
安全与权限控制
API密钥管理 · 请求认证 · 内容过滤
安全权限控制
22
日志与监控
集成vLLM和LangChain的日… · 性能指标监控（如延迟 · 吞吐量）与可视化
日志监控
23
部署与容器化
使用Docker部署vLLM服务 · 配置LangChain应用连接 · 实现生产级部署
部署容器化
24
案例实战一
基于vLLM+LangChain的智… · 知识库检索）
案例实战一vLLM+LangCha…
25
案例实战二
基于vLLM+LangChain的文… · 结构化输出）
案例实战二vLLM+LangCha…
26
案例实战三
基于vLLM+LangChain的代…
案例实战三vLLM+LangCha…
27
案例实战四
基于vLLM+LangChain的个…
案例实战四vLLM+LangCha…
28
常见问题与解决方案
vLLM与LangChain集成中的… · 性能瓶颈 · 兼容性问题及排查方法
常见问题解决方案
29
最佳实践与设计模式
总结集成开发中的架构模式 · 代码组织 · 测试与维护策略
最佳实践设计模式
30
综合项目与未来展望
完成一个端到端综合项目 · 探讨vLLM与LangChain生态…
综合项目未来展望