VIP20

本课程属于：003-知识蒸馏 AI与大模型 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

知识蒸馏特征迁移与部署优化调试全流程指南

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

知识蒸馏的起源与核心思想 · 教师-学生网络架构 · 软标签与温度系数T

蒸馏基础知识蒸馏的起源

KL散度损失函数 · 温度缩放策略 · 蒸馏权重α的调参经验

中间层特征对齐 · Hint Regression与At…

特征迁移间层特征对齐

样本间关系保持 · 基于距离与角度的蒸馏方法

关系蒸馏样本间关系保持

学生网络轻量化策略 · 宽度与深度缩减 · 分组卷积与深度可分离卷积

结构设计学生网络轻量化策…

两阶段训练与联合训练 · 学习率调度 · 数据增强对蒸馏的影响

训练技巧两阶段训练

模型量化原理 · 对称/非对称量化 · INT8与FP16精度对比

量化基础模型量化原理

量化感知训练(QAT) · 蒸馏与量化联合优化 · 伪量化节点

量化蒸馏QAT

结构化剪枝与非结构化剪枝 · L1与L2范数剪枝 · 通道剪枝

剪枝基础结构化剪枝

剪枝后蒸馏恢复 · 迭代式剪枝与蒸馏 · 软掩码技术

剪枝蒸馏剪枝后蒸馏恢复

PyTorch模型转ONNX · 动态轴与静态轴设置 · 算子兼容性排查

图优化与常量折叠 · 算子融合 · ONNX Runtime部署

TensorRT优化原理 · 层融合与精度校准 · 动态形状支持

TensorRT优化原理

Engine序列化与反序列化 · 多流推理 · DLA加速

NCNN模型转换 · 算子注册 · Vulkan加速与FP16推理

TFLite转换流程 · Delegate加速 · NNAPI与GPU代理

OpenVINO模型优化 · IR格式转换 · 异构执行

CoreML模型转换 · ANE加速 · iOS端部署实践

Netron可视化模型结构 · ONNX GraphSurgeon调… · Profiling工具

调试工具Netron

逐层精度对比 · 余弦相似度分析 · 误差累积定位

精度调试逐层精度对比

延迟与吞吐量分析 · 内存带宽瓶颈 · CPU/GPU负载均衡

性能调试延迟

自定义算子实现 · 算子融合策略 · 手写CUDA Kernel

算子优化自定义算子实现

内存池管理 · 张量复用 · 显存碎片整理

内存优化内存池管理

流水线优化

预处理-推理-后处理流水线 · 异步推理 · 双缓冲技术

流水线优化预处理

多模型串联

级联模型部署 · 特征复用 · 条件推理分支

多模型串联级联模型部署

边缘设备选型 · 模型分片 · 端侧推理引擎对比

边缘部署边缘设备选型

容器化部署 · 弹性伸缩 · A/B测试与灰度发布

云端部署容器化部署

监控与告警

推理延迟监控 · 模型漂移检测 · 自动回滚机制

自动化蒸馏流水线 · 模型版本管理 · 回归测试

全流程案例

从蒸馏到部署的端到端实战 · 性能达标与精度验收标准

全流程案例从蒸馏到部署的端…