VIP20
本课程属于：003-知识蒸馏 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

知识蒸馏工程落地与推理加速优化全流程案例

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导论与全景图
知识蒸馏与推理加速的行业背景 · 核心概念 · 全流程概览与课程目标
课程导论全景图
02
教师模型选型与准备
如何选择预训练教师模型（BERT · ResNet等） · 模型下载与加载
教师模型选型准备
03
知识蒸馏基础理论
蒸馏的三大范式（Logit蒸馏 · 特征蒸馏 · 关系蒸馏）
知识蒸馏基础理论Logit
04
软标签与硬标签
软标签的生成与存储 · 硬标签的监督作用 · 联合损失函数设计（α与β权重调优）
软标签硬标签
05
蒸馏温度策略
温度T的搜索空间 · 动态温度调度 · 我在实际项目中的调参经验
蒸馏温度策略温度T的搜索空间
06
学生模型架构设计
轻量化模型选型（TinyBERT · MobileNet · ShuffleNet）
学生模型架构设计TinyBERT
07
数据增强与蒸馏
数据增强策略（Mixup · CutMix · RandAugment）在蒸馏中的应…
数据增强蒸馏
08
离线蒸馏实战
教师模型冻结 · 学生模型训练 · 损失函数反向传播
离线蒸馏实战教师模型冻结
09
在线蒸馏实战
教师与学生联合训练 · 互学习机制 · 在线蒸馏的收敛性分析
线蒸馏实战教师
10
自蒸馏与协同蒸馏
自蒸馏（Self-Distillat… · 协同蒸馏（Co-Distillati…
自蒸馏协同蒸馏
11
特征图对齐蒸馏
基于中间层特征的对齐（FitNet · AT） · 注意力迁移（Attention Tr…
特征图对齐蒸馏FitNet
12
关系蒸馏与结构蒸馏
样本间关系保持（Relational… · 图结构蒸馏（Graph-based…
关系蒸馏结构蒸馏
13
量化感知蒸馏
量化感知训练（QAT）与蒸馏结合 · 伪量化节点插入 · 精度恢复技巧
量化感知蒸馏QAT
14
剪枝与蒸馏协同
结构化剪枝与非结构化剪枝 · 蒸馏辅助剪枝恢复精度 · 通道剪枝实战
剪枝蒸馏协同
15
蒸馏模型评估体系
精度 · 参数量 · FLOPs
蒸馏模型评估体系精度
16
ONNX模型导出
PyTorch/TensorFlow… · 动态轴与静态轴设置 · 算子兼容性排查
ONNX模型导出
17
ONNX Runtime推理优化
ONNX Runtime安装与配置 · 图优化 · 算子融合
ONNXRuntime
18
TensorRT加速原理
层融合 · 精度校准（FP16/INT8） · 动态形状推理
TensorRT加速原理
19
TensorRT实战部署
从ONNX到TensorRT引擎 · INT8量化校准 · 多Batch推理优化
TensorRT实战部署
20
OpenVINO推理优化
模型优化器 · 推理引擎 · 异构执行
OpenVINO推理优化
21
TFLite与NNAPI部署
TFLite转换 · 量化（动态/静态/FP16） · NNAPI硬件加速
TFLiteNNAPI
22
推理引擎对比与选型
TensorRT vs ONNX R… · 性能与场景对比
推理引擎对比选型
23
模型服务化部署
Flask/FastAPI搭建推理服… · Docker容器化 · 负载均衡与水平扩展
模型服务化部署Flask/FastAP…
24
推理流水线优化
异步推理 · 批处理策略 · 预处理/后处理加速
推理流水线优化异步推理
25
内存与显存优化
内存池复用 · 显存碎片整理 · 梯度检查点
内存显存优化
26
边缘端部署优化
模型压缩（量化+剪枝+蒸馏） · 边缘计算框架（TensorRT Li… · Core ML）
边缘端部署优化模型压缩
27
端到端全流程案例（上）
从ResNet50蒸馏到Mobile… · 包含数据准备 · 蒸馏训练
端到端全流程案例ResNet50
28
端到端全流程案例（下）
ONNX导出 · TensorRT INT8量化 · 服务化部署
端到端全流程案例ONNX
29
常见问题与避坑指南
精度下降 · 算子不支持 · 内存溢出
常见问题避坑指南
30
课程总结与前沿展望
知识蒸馏与推理加速的最新趋势（大模型… · 自动化蒸馏 · 硬件协同设计）
课程总结前沿展望