所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

NPU模型量化与算子融合优化从入门到精通

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导论
NPU基础架构 · 量化与算子融合的意义 · 课程学习路径与目标
课程导论NPU
02
深度学习模型压缩基础
模型冗余来源 · 量化与剪枝 · 蒸馏的关系
深度学习模型压缩…模型冗余来源
03
量化核心概念
定点与浮点 · 量化参数（scale/zero-po… · 对称与非对称量化
量化核心概念定点
04
量化方法分类
训练后量化（PTQ） · 量化感知训练（QAT） · 动态量化与静态量化的适用场景与优缺点
量化方法分类PTQ
05
PTQ实战流程
数据校准 · 校准集选择 · MinMax/Percentile/…
PTQ实战流程
06
QAT实战流程
伪量化节点插入 · 直通估计器（STE） · 量化感知训练技巧
QAT实战流程
07
量化粒度与格式
逐张量 · 逐通道量化 · INT8/INT16/FP16/BF…
量化粒度格式
08
NPU量化工具链
主流NPU厂商量化工具（如昇腾AMC… · 寒武纪 · 英伟达TensorRT等）的架构与使…
NPU量化工具链
09
量化误差分析与调优
误差来源（舍入 · 截断 · 溢出）
量化误差分析调优
10
量化模型精度恢复
偏差校正 · 知识蒸馏辅助量化 · 自适应量化
量化模型精度恢复偏差校正
11
算子融合基础
算子融合的定义 · 目的（减少访存 · 内核启动开销）
算子融合基础算子融合的定义
12
NPU算子执行模型
NPU计算单元 · 内存层次 · 调度方式
NPU算子执行模型
13
常见算子融合模式
Conv+BN · Conv+ReLU · MatMul+Add
常见算子融合模式Conv+BN
14
图优化与算子融合框架
计算图优化 · 子图匹配 · 模式替换
图优化算子融合框架
15
NPU算子融合实战
使用昇腾CANN · 寒武纪BANG · 或自定义算子库实现典型融合
NPU算子融合实战
16
量化与算子融合的协同优化
量化对融合的影响（如量化尺度融合） · 融合后量化误差传播 · 联合优化策略
量化算子融合的协同优…
17
内存规划与数据布局优化
NPU内存带宽 · 数据排布（NHWC/NCHW/NC1… · 融合算子中的内存复用
内存规划数据布局优化
18
卷积算子优化
Im2Col · Winograd · FFT等算法在NPU上的实现
卷积算子优化Im2Col
19
Transformer模型量化与融合
Attention · MLP · LayerNorm的量化难点
Transformer模型量化
20
大模型量化与NPU部署
LLM量化（/AWQ/ Sm… · KV Cache量化 · NPU上的大模型推理优化
NPU大模型量化
21
端侧NPU优化实践
移动端NPU（如高通 · 联发科 · 华为）的量化与融合限制
NPU端侧
22
性能评估与基准测试
NPU性能指标（TOPS · 延迟 · 吞吐）
性能评估基准测试
23
常见问题与调试技巧
量化后精度暴跌 · 融合后算子错误 · NPU算子不支持
常见问题调试技巧
24
自动化优化工具链
AutoML量化 · 自动搜索融合策略 · 基于学习的优化方法在NPU上的应用
自动化优化工具链AutoML
25
多硬件平台适配
不同NPU架构差异 · 量化与融合的可移植性 · ONNX/TensorFlow/Py…
多硬件平台适配NPU
26
案例实战
图像分类模型（ResNet/Mobi… · 并输出性能报告
案例实战ResNet/Mobi
27
案例实战
目标检测模型（YOLO系列）的量化与… · 处理检测头敏感性问题
案例实战YOLO
28
案例实战
自然语言处理模型（BERT）的量化与… · 处理动态形状和注意力机制
案例实战BERT
29
综合项目
从零构建一个NPU量化与融合优化流水… · 集成PTQ/QAT · 算子融合
综合项目NPU
30
课程总结与前沿展望
量化与融合的最新研究趋势（如低比特量… · 神经架构搜索 · 硬件软件协同设计）
课程总结前沿展望