所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。

← 返回上一级

← 返回所属目录咨询 / 购买

知识蒸馏模型GPU与NPU部署优化

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

知识蒸馏与AI部署的背景 · 课程目标 · 学习路径与整体框架

知识蒸馏基础

蒸馏概念 · 教师-学生模型 · 软标签与温度参数

知识蒸馏基础蒸馏概念

主流蒸馏方法

KD · FitNets · AT

主流蒸馏方法KD

蒸馏训练流程

数据准备 · 教师模型选择与训练 · 学生模型设计

蒸馏训练流程数据准备

蒸馏模型评估

精度 · 泛化能力 · 鲁棒性

蒸馏模型评估精度

GPU部署基础

GPU架构与CUDA编程模型 · TensorRT · ONNX Runtime

GPU部署基础

GPU部署优化技术

模型量化（PTQ/QAT） · 剪枝 · 算子融合

GPU部署优化技术

NPU部署基础

NPU架构特点（达芬奇 · 昇腾 · 寒武纪等）

NPU部署基础

NPU部署优化技术

NPU算子适配 · 内存优化 · 图优化

NPU部署优化技术

蒸馏模型在GPU上的部署实战

以ResNet蒸馏到MobileNe… · 完成TensorRT部署与性能调优

GPU蒸馏模型

蒸馏模型在NPU上的部署实战

以BERT蒸馏到TinyBERT为例 · 在昇腾NPU上完成转换 · 推理与优化

NPU蒸馏模型

GPU与NPU部署对比

性能 · 功耗 · 成本

蒸馏与量化联合优化

量化感知蒸馏（QAD） · 蒸馏后量化 · 联合训练策略与效果分析

蒸馏量化联合优化

蒸馏与剪枝结合

结构化剪枝与蒸馏协同 · 稀疏训练 · 通道剪枝与蒸馏的集成方案

蒸馏剪枝结合

蒸馏与神经架构搜索（NAS）

NAS生成学生网络 · 蒸馏辅助搜索 · 硬件感知NAS

多教师蒸馏与集成

多教师知识融合 · 在线蒸馏 · 自蒸馏

多教师蒸馏集成

跨模态与跨任务蒸馏

视觉-语言蒸馏 · 检测/分割任务蒸馏 · 推荐系统蒸馏

跨模态跨任务蒸馏

蒸馏模型部署中的精度损失问题

原因分析 · 诊断方法 · 缓解策略（如校准

蒸馏模型部署精度损失问题

部署中的性能瓶颈分析

Profiling工具使用 · 瓶颈定位 · 优化优先级

部署性能瓶颈分析

模型转换与格式适配

PyTorch/TF模型转ONNX · 转TensorRT · 转CANN模型

模型转换格式适配

推理引擎高级特性

动态batch · 多实例 · 并发控制

推理引擎高级特性batch

边缘端部署实践

移动端NPU（如骁龙 · 麒麟） · TFLite/MLIR

边缘端部署实践NPU

云端部署实践

GPU云服务器 · NPU云服务 · 容器化部署

云端部署实践GPU

端侧-云侧协同部署

模型分片 · 蒸馏模型在端侧与云侧的协同推理 · 联邦蒸馏

端侧云侧协同部署

蒸馏模型部署的自动化工具

AutoML · 模型优化工具链（如Intel Ope… · NVIDIA TAO）

蒸馏模型部署的自…AutoML

图像分类蒸馏模型在GPU与NPU上的…

案例实战GPU

目标检测蒸馏模型（如YOLO蒸馏）在…

案例实战YOLO

NLP模型（BERT蒸馏）在GPU与…

案例实战NLP

常见问题与排错

精度下降 · 性能不达标 · 算子不支持

常见问题排错

综合项目与课程总结

设计一个完整的蒸馏+部署项目 · 涵盖需求分析 · 方案设计

综合项目课程总结