VIP20
本课程属于：009-AI+DevOps AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

生产环境AI推理服务根因诊断实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 生产环境AI推理服务面临的挑战与根因…
课程导入学习目标
02
AI推理服务基础
推理服务架构 · 常见部署模式（在线 · 离线
AI推理服务基础
03
监控与可观测性
日志 · 指标 · 追踪三大支柱
监控可观测性
04
常见故障类型
模型性能下降 · 服务超时 · 资源瓶颈
常见故障类型模型性能下降
05
根因诊断方法论
系统化诊断流程（问题定义 · 假设提出 · 数据收集
根因诊断方法论系统化诊断流程
06
日志分析技巧
日志格式规范 · 关键字检索 · 日志聚合与关联分析
日志分析技巧日志格式规范
07
指标分析
核心指标（P99延迟 · 错误率 · CPU/内存/GPU利用率）的监控与…
指标分析P99
08
分布式追踪
追踪上下文 · 跨服务调用链分析 · 瓶颈定位
分布式追踪追踪上下文
09
模型性能诊断
模型推理时间分析 · 模型优化（量化 · 剪枝
模型性能诊断模型推理时间分析
10
资源瓶颈诊断
CPU · 内存 · GPU
资源瓶颈诊断CPU
11
依赖服务故障
数据库 · 缓存 · 外部API等依赖的故障排查与降级策略
依赖服务故障数据库
12
数据漂移检测
输入数据分布变化对模型性能的影响及检…
数据漂移检测输入数据分布变化…
13
案例实战
典型故障案例（如延迟突增）的完整诊断…
案例实战典型故障案例
14
案例实战
模型精度下降的根因分析（数据漂移 · 特征缺失等）
案例实战模型精度下降的根…
15
案例实战
服务不可用的紧急排查与恢复
案例实战服务不可用的紧急…
16
常见问题与解决方案
诊断中的常见误区 · 工具使用技巧 · 团队协作
常见问题解决方案
17
自动化诊断
构建自动化诊断工具 · 告警规则优化 · 根因分析平台
自动化诊断构建自动化诊断工…
18
性能调优
基于诊断结果的优化策略（代码优化 · 资源配置 · 架构调整）
性能调优基于诊断结果的优…
19
容量规划
基于历史数据和趋势预测资源需求 · 避免瓶颈
容量规划基于历史数据
20
混沌工程
主动注入故障验证系统韧性 · 提升诊断能力
混沌工程主动注入故障验证…
21
安全与合规
诊断过程中的数据隐私 · 安全日志 · 合规要求
安全合规
22
综合实战
模拟一个复杂故障 · 综合运用所学方法进行端到端诊断
综合实战模拟一个复杂故障
23
课程总结
核心要点回顾 · 诊断思维培养 · 持续学习路径
课程总结核心要点回顾
24
补充
AI推理服务性能基准测试方法与实践
补充AI
25
补充
基于机器学习的异常检测在根因诊断中的…
补充基于机器学习的异…
26
补充
多租户环境下的隔离与诊断策略
补充多租户环境下的隔…
27
补充
GPU共享与调度对推理性能的影响及诊…
补充GPU
28
补充
模型版本管理与回滚策略在故障诊断中的…
补充模型版本管理
29
补充
告警风暴处理与降噪技巧
补充告警风暴处理
30
补充
根因诊断报告撰写与知识沉淀
补充根因诊断报告撰写