首页
›
AI智能与边缘计算工程
›
162-NVIDIA CUDA与TensorRT GPU加速工程
›
《GPU模型部署验证与回归测试工程》
VIP20
本课程属于:162-NVIDIA CUDA与TensorRT GPU加速工程
AI智能与边缘计算工程 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
GPU模型部署验证与回归测试工程
共计 30 章节
可可资料掘金营 · 点击在线试看
01
GPU模型部署验证与回归测试工程导论
目标=课程定位 · 核心挑战 · 工程价值
GPU
模型部署验证
02
GPU推理部署基础
目标=CUDA运行时 · TensorRT · ONNX Runtime
GPU
推理部署基础
03
模型转换与图优化验证
目标=ONNX导出 · 算子融合 · 精度校准
模型转换
图优化验证
04
GPU部署环境构建与基线固化
目标=驱动 · CUDA · cuDNN
GPU
部署环境构建
05
推理正确性验证方法
目标=逐层对比 · 端到端输出比对 · 数值容差设定
推理正确性验证方…
目标=逐层对比
06
精度回归测试设计
目标=黄金数据集构建 · 指标阈值管理 · 精度漂移检测与回归用例组织
精度回归测试设计
目标=黄金数据集…
07
性能基准与回归测试
目标=延迟 · 吞吐 · 显存占用
性能基准
回归测试
08
GPU显存与资源验证
目标=显存泄漏检测 · 峰值显存测量 · 多实例并发资源隔离与OOM回归场景
GPU
显存
09
多精度部署验证
目标=FP32 · FP16 · INT8
多精度部署验证
FP32
10
动态批处理与并发验证
目标=Triton动态批处理 · 并发模型执行 · 请求调度正确性与性能回归
动态批处理
并发验证
11
多GPU与分布式推理验证
目标=数据并行 · 张量并行 · 流水线并行的部署验证与通信正确性检查
GPU
分布式推理验证
12
模型版本管理与回归触发
目标=模型注册 · 版本对比 · CI触发条件
模型版本管理
回归触发
13
自动化测试框架搭建
目标=pytest · Google Test · 自定义Runner与GPU测试用例组…
自动化测试框架搭…
pytest
14
CI/CD中的GPU回归测试
目标=GitLab CI · Jenkins · GitHub Actions与GPU…
CI/CD
GPU
15
容器化部署验证
目标=Docker · NVIDIA Container T… · 镜像构建
容器化部署验证
Docker
16
Kubernetes GPU部署验证
目标=Device Plugin · 资源调度 · Pod推理服务健康检查与回归测试
Kubernetes
GPU
17
推理服务API契约测试
目标=REST/gRPC接口 · 输入输出Schema · 超时
API
推理服务
18
数据预处理与后处理验证
目标=GPU加速预处理 · 对齐CPU参考实现 · 边界样本与数值一致性
数据预处理
后处理验证
19
模型鲁棒性与边界回归
目标=异常输入 · 极端形状 · 空张量
模型鲁棒性
边界回归
20
长稳测试与老化验证
目标=持续推理 · 显存增长监控 · 性能衰减检测与长稳回归报告
长稳测试
老化验证
21
故障注入与恢复测试
目标=GPU掉卡 · ECC错误 · 显存不足
故障注入
恢复测试
22
可观测性与回归诊断
目标=日志 · 指标 · Trace
可观测性
回归诊断
23
A/B测试与灰度发布验证
目标=线上流量切分 · 模型对比 · 统计显著性检验与回滚决策
A/B
测试
24
回归测试数据集管理
目标=数据版本 · 采样策略 · 覆盖度分析
回归测试数据集管…
目标=数据版本
25
测试报告与质量门禁
目标=回归报告模板 · 通过标准 · 阻断规则
测试报告
质量门禁
26
典型CV模型部署回归实战
目标=ResNet/YOLO/Ten… · 精度性能验证与回归用例编写
CV
典型
27
典型NLP模型部署回归实战
目标=BERT/GPT类模型 · 动态序列 · KV Cache与推理回归测试
NLP
典型
28
大模型GPU部署验证专题
目标=显存优化 · 量化 · 连续批处理
GPU
大模型
29
边缘GPU部署验证
目标=Jetson · TensorRT · 功耗约束
GPU
边缘
30
课程综合项目
目标=从模型到GPU服务 · 设计完整验证与回归测试方案并输出工程…
课程综合项目
GPU
所属VIP或分类
同VIP:CUDA与TensorRT协同加速平台
同VIP:CUDA图像处理算法加速与优化
同VIP:CUDA多GPU并行计算与任务调度工程