首页
›
AI与大模型
›
006 vLLM
›
《vLLM日志监控与故障排查手册》
VIP20
本课程属于:006 vLLM
AI与大模型 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
vLLM日志监控与故障排查手册
共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · vLLM日志监控与故障排查的整体价值
课程导入
学习目标
02
vLLM基础与日志体系
vLLM架构简介 · 日志类型(系统日志 · 请求日志
vLLM
日志体系
03
日志监控核心概念
日志级别(DEBUG/INFO/WA… · 结构化日志 · 日志轮转与保留策略
日志监控核心概念
DEBUG/INFO/W…
04
日志采集与集中管理
使用Filebeat · Fluentd · Promtail等工具采集vLLM日…
日志采集
管理
05
日志查询与过滤技巧
使用grep · jq · Kibana或Loki LogQL进…
日志查询
过滤技巧
06
关键日志指标与性能关联
从日志中提取吞吐量 · 延迟 · 批大小
关键日志指标
性能关联
07
vLLM常见错误日志解读
OOM · CUDA error · 模型加载失败
vLLM
常见错误日志解读
08
故障排查方法论
从日志出发的故障定位流程(时间线分析 · 关联分析 · 根因分析)
故障排查方法论
从日志出发的故障…
09
监控告警配置
基于日志的告警规则设计(如错误率 · 延迟阈值 · 日志关键字告警)
监控告警配置
基于日志的告警规…
10
日志可视化与仪表盘
使用Grafana或Kibana构建…
日志可视化
仪表盘
11
案例实战
vLLM服务启动失败的日志排查与解决
案例实战
vLLM
12
案例实战
推理请求高延迟的日志分析与性能优化
案例实战
推理请求高延迟的…
13
案例实战
GPU内存溢出(OOM)的日志诊断与…
案例实战
GPU
14
案例实战
并发请求下日志丢失或乱序的处理方法
案例实战
并发请求下日志丢…
15
案例实战
模型推理结果异常的日志追踪与调试
案例实战
模型推理结果异常…
16
案例实战
vLLM与Kubernetes集成时…
案例实战
vLLM
17
案例实战
多节点部署下的日志聚合与跨节点故障定…
案例实战
多节点部署下的日…
18
常见问题
日志文件过大或磁盘空间不足的应对策略
常见问题
日志文件过大或磁…
19
常见问题
日志时间戳不准确或时区混乱的解决方法
常见问题
日志时间戳不准确…
20
常见问题
日志中敏感信息泄露的脱敏与安全处理
常见问题
日志
21
常见问题
日志监控系统自身故障(如采集器宕机)…
常见问题
日志监控系统自身…
22
常见问题
vLLM升级后日志格式变化导致的监控…
常见问题
vLLM
23
综合提升
构建完整的vLLM日志监控与故障排查…
综合提升
vLLM
24
综合提升
日志驱动的容量规划与资源调优
综合提升
日志驱动的容量规…
25
综合提升
利用机器学习进行日志异常检测(如日志…
综合提升
利用机器学习进行…
26
综合提升
与OpenTelemetry集成实现…
综合提升
OpenTelemetr…
27
综合提升
日志监控的自动化测试与演练(混沌工程…
综合提升
日志监控的自动化…
28
综合提升
团队协作与故障响应流程(On-Cal… · RCA报告)
综合提升
On-Cal
29
综合提升
vLLM日志监控的云原生实践(AWS · GCP · Azure)
综合提升
vLLM
30
课程总结
核心要点回顾 · 最佳实践清单 · 后续学习路径推荐
课程总结
核心要点回顾
所属VIP或分类
同VIP:vLLM与HuggingFace模型无缝集成实战
同VIP:vLLM与LangChain集成开发实战
同VIP:vLLM内存管理与PagedAttention精讲