所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

神经网络模型量化压缩与轻量化部署

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程大纲 · 适用人群
课程导入学习目标
02
深度学习模型部署基础
模型推理流程 · 硬件平台（CPU/GPU/NPU/移… · 部署挑战与性能指标
深度学习模型部署…模型推理流程
03
模型压缩与轻量化概述
压缩方法分类（量化 · 剪枝 · 蒸馏
模型压缩轻量化概述
04
神经网络量化基础
量化定义 · 定点与浮点表示 · 量化误差来源
神经网络量化基础量化定义
05
量化映射与对称/非对称量化
线性量化公式 · 零点与缩放因子 · 对称量化与非对称量化的区别与选择
量化映射对称
06
训练后量化（PTQ）
原理 · 动态量化与静态量化 · 校准数据集
PTQ训练后量化
07
量化感知训练（QAT）
原理 · 伪量化算子 · 直通估计器（STE）
QAT量化感知训练
08
量化模型精度恢复
误差分析 · 敏感层识别 · 混合精度量化
量化模型精度恢复误差分析
09
模型剪枝基础
结构化剪枝与非结构化剪枝 · 剪枝粒度（权重/通道/层） · 剪枝评价指标
模型剪枝基础结构化剪枝
10
剪枝方法与实践
L1/L2正则剪枝 · 基于BN的通道剪枝 · 迭代剪枝与一次性剪枝
剪枝方法L1/L2
11
知识蒸馏
软标签与温度系数 · 蒸馏损失设计 · 教师-学生模型训练
知识蒸馏软标签
12
低秩分解与矩阵近似
SVD分解 · CP分解 · 张量分解在模型压缩中的应用
低秩分解矩阵近似
13
轻量化网络结构设计
MobileNet · ShuffleNet · EfficientNet
轻量化网络结构设…MobileNet
14
模型压缩工具与框架
PyTorch量化工具 · TensorFlow Lite · ONNX Runtime
模型压缩工具框架
15
ONNX与模型转换
模型导出为ONNX · ONNX算子兼容性 · 动态轴处理
ONNX模型转换
16
模型推理引擎与部署框架
TensorRT · OpenVINO · CoreML
模型推理引擎部署框架
17
硬件加速与算子优化
GPU/CPU/NPU指令集 · 算子融合 · 内存布局优化
硬件加速算子优化
18
端侧部署实战
移动端（Android/iOS）部署… · 模型打包 · 性能调优与功耗控制
端侧部署实战Android/iOS
19
服务端部署实战
云端GPU/CPU部署 · 批处理优化 · 动态batch
服务端部署实战GPU/CPU
20
量化部署案例
图像分类模型（ResNet/Mobi… · 从训练到推理
量化部署案例ResNet/Mobi
21
目标检测模型压缩与部署
YOLO系列量化剪枝 · NMS优化 · 端到端部署案例
目标检测模型压缩部署
22
Transformer/BERT模型压缩
量化 · 剪枝 · 蒸馏在NLP模型上的应用与挑战
Transformer/…模型压缩
23
生成模型与多模态模型压缩
GAN · Diffusion · CLIP等模型的轻量化策略
生成模型多模态模型压缩
24
模型压缩与部署中的常见问题
精度下降 · 推理速度不升反降 · 算子不支持
模型压缩部署
25
模型压缩与部署的评估体系
模型大小 · FLOPs · 延迟
模型压缩部署的评估体系
26
自动化压缩与神经架构搜索（NAS）
AutoML压缩 · 基于NAS的轻量化模型搜索
NAS自动化压缩
27
模型安全与鲁棒性
量化对鲁棒性的影响 · 对抗攻击与防御 · 压缩模型的安全性评估
模型安全鲁棒性
28
综合实战项目
从零构建一个图像分类模型 · 完成量化 · 剪枝
综合实战项目从零构建一个图像…
29
前沿趋势与进阶方向
大模型量化（/AWQ） · 低比特量化（1-bit/2-bit） · 硬件协同设计
前沿趋势进阶方向
30
课程总结与职业发展
知识体系回顾 · 项目经验沉淀 · 学习资源推荐
课程总结职业发展