VIP10
本课程属于：084-自动驾驶模型压缩量化与边缘优化 智能汽车与新能源汽车工程 · 共 10 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

INT8 FP16混合精度部署工程

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入
目标=混合精度部署的定义 · 学习目标 · 整体知识框架与工程价值
课程导入目标=混合精度部…
02
数值表示基础
目标=定点与浮点 · INT8与FP16的位宽 · 动态范围
数值表示基础目标=定点
03
硬件与软件栈概览
目标=GPU · NPU · CPU对INT8/FP16的支持
硬件软件栈概览
04
混合精度原理
目标=为什么混合使用INT8和FP1… · 精度-速度-内存的权衡 · 典型应用场景
混合精度原理INT8
05
量化基础
目标=对称量化 · 非对称量化 · 逐层与逐通道量化
量化基础目标=对称量化
06
FP16基础
目标=半精度浮点格式 · 舍入模式 · 溢出与下溢
FP16目标=半精度浮点…
07
模型分析
目标=算子类型识别 · 敏感层分析 · 精度瓶颈定位与混合精度策略设计
模型分析目标=算子类型识…
08
量化感知训练
目标=QAT流程 · 伪量化节点 · 梯度传播
量化感知训练QAT
09
训练后量化
目标=PTQ流程 · 校准集选择 · KL散度与最小化误差方法
训练后量化PTQ
10
混合精度策略设计
目标=逐层精度分配 · 自动搜索 · 启发式规则与性能模型
混合精度策略设计目标=逐层精度分…
11
TensorRT混合精度部署
目标=INT8校准 · FP16层 · 精度回退
TensorRT混合精度部署
12
ONNX Runtime混合精度
目标=量化工具 · 图优化 · 执行提供器配置与性能调优
ONNXRuntime
13
PyTorch混合精度
目标=AMP · torch.quantization · FX图模式量化与FP16推理
PyTorch混合精度
14
TensorFlow混合精度
目标=TF-TRT · 量化感知训练 · SavedModel与TFLite部…
TensorFlow混合精度
15
移动端与边缘部署
目标=NCNN · MNN · TFLite的INT8/FP16支持…
移动端边缘部署
16
精度评估与验证
目标=评估指标 · 误差分析 · 逐层对比
精度评估验证
17
性能调优
目标=吞吐量 · 延迟 · 内存占用
性能调优目标=吞吐量
18
案例实战一
目标=图像分类模型INT8+FP16…
案例实战一INT8+FP16
19
案例实战二
目标=目标检测模型混合精度部署与精度…
案例实战二目标=目标检测模…
20
案例实战三
目标=自然语言处理模型Transfo…
案例实战三Transfo
21
案例实战四
目标=推荐系统模型INT8量化与FP…
案例实战四INT8
22
常见问题与陷阱
目标=精度下降 · 校准失败 · 算子不支持
常见问题陷阱
23
自动化与工具链
目标=混合精度搜索 · 量化调试工具 · 性能剖析与可视化
自动化工具链
24
生产环境部署
目标=服务化 · 动态批处理 · 多模型并发
生产环境部署目标=服务化
25
安全与鲁棒性
目标=量化对对抗样本的影响 · 数值稳定性与异常检测
安全鲁棒性
26
前沿进展
目标=低比特量化 · 稀疏化与混合精度的结合 · 新硬件趋势
前沿进展目标=低比特量化
27
综合项目一
目标=从模型训练到混合精度部署的端到…
综合项目一目标=从模型训练…
28
综合项目二
目标=多硬件平台混合精度部署与性能对…
综合项目二目标=多硬件平台…
29
综合提升
目标=混合精度部署的最佳实践 · 设计模式与工程规范
综合提升目标=混合精度部…
30
课程总结与展望
目标=知识回顾 · 技能自评 · 持续学习路径与社区资源
课程总结目标=知识回顾