所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

模型量化压缩技术 神经网络模型轻量化部署

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 量化与压缩在轻量化部署中的价值与挑战
课程导入学习目标
02
神经网络模型部署基础
模型推理流程 · 硬件平台（CPU/GPU/NPU/移…
神经网络模型部署…模型推理流程
03
模型冗余分析
权重冗余 · 激活冗余 · 结构冗余的来源与量化压缩的切入点
模型冗余分析权重冗余
04
量化核心概念
定点数与浮点数 · 位宽（8-bit/4-bit/2-b… · 量化尺度（scale）与零点（zer…
量化核心概念定点数
05
均匀量化与非线性量化
对称量化 · 非对称量化 · 对数量化
均匀量化非线性量化
06
量化误差分析
量化噪声 · 权重与激活的分布特性 · 误差传播对模型精度的影响
量化误差分析量化噪声
07
训练后量化（PTQ）
校准数据集选择 · 校准方法（MinMax/Percen… · PTQ流程与工具（PyTorch/T…
PTQ训练后量化
08
量化感知训练（QAT）
伪量化节点 · 直通估计器（STE） · QAT训练流程与超参数调整
QAT量化感知训练
09
量化粒度与混合精度
逐张量/逐通道量化 · 混合精度量化（8-bit+4-bit…
量化粒度混合精度
10
模型剪枝基础
结构化剪枝与非结构化剪枝 · 剪枝粒度（权重/通道/层）与稀疏性表…
模型剪枝基础结构化剪枝
11
剪枝方法实战
L1/L2范数剪枝 · 基于BN的通道剪枝 · 自动剪枝（AMC/NetAdapt）…
剪枝方法实战L1/L2
12
知识蒸馏与量化结合
蒸馏损失设计 · 教师-学生网络在量化模型训练中的应用
知识蒸馏量化结合
13
低秩分解与矩阵近似
SVD分解 · CP分解在模型压缩中的应用与量化结合
低秩分解矩阵近似
14
权重共享与聚类
K-means聚类量化 · 哈夫曼编码与权重共享的经典方法（De…
权重共享聚类
15
模型量化工具链
PyTorch量化API · TensorFlow Lite量化 · ONNX Runtime量化
模型量化工具链PyTorch
16
硬件感知量化
不同硬件（ARM · x86 · GPU
硬件感知量化ARM
17
量化模型推理优化
内存带宽优化 · 算子融合 · 量化推理引擎（如TVM
量化模型推理优化内存带宽优化
18
图像分类模型量化实战
ResNet/MobileNet的P… · 精度-速度权衡分析
图像分类模型量化…ResNet/Mobil…
19
目标检测模型量化实战
YOLO系列量化难点（边界框回归 · 多尺度特征） · 解决方案与案例
目标检测模型量化…YOLO
20
自然语言处理模型量化实战
BERT/Transformer量化 · 动态量化与静态量化选择 · 精度恢复技巧
自然语言处理模型…BERT/Transfo…
21
生成模型与多模态模型量化
扩散模型 · ViT · CLIP的量化挑战与最新进展
生成模型多模态模型量化
22
量化与剪枝联合压缩
组合策略 · 训练流程设计 · 联合优化与工程实现
量化剪枝联合压缩
23
模型压缩评估指标
模型大小 · FLOPs · 延迟
模型压缩评估指标模型大小
24
常见问题与调试技巧
量化后精度骤降 · 校准集过拟合 · 算子不兼容
常见问题调试技巧
25
模型部署框架集成
将量化模型部署到TensorRT · OpenVINO · CoreML
模型部署框架集成TensorRT
26
边缘设备部署实战
树莓派/手机/嵌入式设备上的量化模型…
边缘设备部署实战树莓派
27
云端与大规模部署
量化模型在服务器端的高吞吐推理 · 批处理优化与成本控制
云端大规模部署
28
前沿技术与发展趋势
低比特量化（1-bit/2-bit） · 量化感知搜索（QAS） · 自动化压缩工具（如NNI）
前沿技术发展趋势
29
综合项目实战
从预训练模型出发 · 完成量化 · 剪枝
综合项目实战从预训练模型出发
30
课程总结与进阶路径
核心知识回顾 · 常见误区 · 学习资源推荐与未来研究方向
课程总结进阶路径