VIP20

本课程属于：026-ONNX模型转换与边缘推理兼容性 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

14. ONNX精度偏差排查：前处理、后处理与数值误差

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

ONNX精度偏差问题的常见场景 · 学习目标 · 课程整体框架与前置知识要求

课程导入ONNX

ONNX基础回顾

ONNX模型结构 · 算子版本 · 动态形状与静态形状对精度的影响

ONNX基础回顾

精度偏差的典型表现

输出数值差异 · 分类结果翻转 · 目标框偏移

精度偏差的典型表…输出数值差异

前处理在ONNX推理中的角色

图像缩放 · 归一化 · 通道顺序

前处理差异排查

PyTorch/TensorFlow…

前处理差异排查PyTorch/Tens…

图像缩放与插值方式

双线性 · 最近邻 · 双三次等插值算法在ONNX中的实现与…

图像缩放插值方式

归一化与标准化

mean/std的数值类型 · 计算顺序（先缩放后归一化 vs 先归…

归一化标准化

通道顺序与数据布局

NHWC vs NCHW · RGB vs BGR · 通道维度的转换对ONNX推理的影响

通道顺序数据布局

数据类型与数值范围

uint8 · float32 · float16的转换

数据类型数值范围

后处理在ONNX推理中的角色

softmax · sigmoid · NMS

后处理差异排查

训练时后处理与ONNX推理后处理的实… · 常见不一致点

后处理差异排查ONNX

Softmax与温度参数

温度缩放 · 数值稳定性（减去最大值）对ONNX输…

Softmax温度参数

NMS（非极大值抑制）的差异

IoU计算 · 置信度阈值 · 类别过滤

NMS非极大值抑制

坐标解码与缩放

目标检测中anchor · bbox解码 · 坐标归一化与反归一化在ONNX中的常…

坐标解码缩放

数值误差的来源

浮点运算顺序 · 算子实现差异 · 优化选项（如图优化

数值误差的来源浮点运算顺序

ONNX Runtime的优化选项

图优化级别 · 算子融合 · 内存优化如何影响数值精度

精度偏差的量化方法

计算最大误差 · 均方误差 · 相对误差

精度偏差的量化方…计算最大误差

调试工具与技巧

使用onnxruntime的调试接口 · 打印中间节点输出 · 对比PyTorch输出

调试工具onnxruntime

使用onnxruntime与PyTorch逐层对比

导出中间张量 · 编写对比脚本 · 定位首个偏差层

onnxruntimePyTorch

案例实战一

图像分类模型（ResNet）的ONN… · 从前处理到输出概率的完整流程

案例实战一ResNet

案例实战二

目标检测模型（YOLO）的ONNX精… · 重点分析后处理NMS与坐标解码

案例实战二YOLO

案例实战三

语义分割模型（UNet）的ONNX精… · 关注上采样与归一化细节

案例实战三UNet

常见问题一

输入尺寸不一致导致的精度问题 · 动态轴与固定尺寸的转换策略

常见问题一输入尺寸不一致导…

常见问题二

算子不支持或版本不匹配导致的精度下降 · 如何选择兼容的算子集

常见问题二算子不支持或版本…

常见问题三

量化模型（INT8/FP16）的精度… · 量化参数与校准方法的影响

常见问题三INT8/FP16

常见问题四

多线程与批处理对精度的影响 · 以及如何保证确定性

常见问题四多线程

构建一套系统化的ONNX精度偏差排查… · 从复现问题到定位根因

综合提升ONNX

编写自动化测试脚本 · 将ONNX输出与参考框架对比 · 集成到CI/CD中

综合提升编写自动化测试脚…

精度与性能的权衡 · 如何在可接受的精度损失下提升推理速度

综合提升精度

核心要点回顾 · 常见陷阱清单 · 进一步学习资源与实战建议

课程总结核心要点回顾