VIP20

本课程属于：012-嵌入式端YOLO目标检测部署实战 AI视觉与工业视觉 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

从模型转换到NPU推理的完整链路

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

AI芯片与NPU概述

NPU架构演进 · NPU与GPU/CPU的区别 · 主流NPU芯片介绍（华为昇腾

模型训练基础回顾

PyTorch/TensorFlow… · 模型保存格式（.pth · .h5

模型训练基础回顾PyTorch/Tens…

ONNX模型详解

ONNX标准介绍 · ONNX算子集 · 使用onnxruntime验证ONN…

ONNX模型详解

模型量化原理

FP32与INT8精度对比 · 量化感知训练（QAT）与训练后量化（… · 对称量化与非对称量化

模型量化原理FP32

模型剪枝与蒸馏

结构化剪枝与非结构化剪枝 · 知识蒸馏原理 · 轻量化模型设计（MobileNet

模型剪枝蒸馏

NPU编译器入门

NNEF与IR中间表示 · TVM与MLIR框架 · 昇腾CANN软件栈架构

NPU编译器入门

昇腾CANN工具链

AscendCL开发框架 · ATC模型转换工具 · om模型格式解析

模型转换实战（PyTorch→ONNX→OM）

环境配置 · 算子适配 · 动态shape处理

模型转换实战（TensorFlow→ONNX→OM）

tf2onnx工具使用 · Keras模型转换 · TF算子映射表

模型精度比对

余弦相似度 · 欧氏距离 · 余弦距离

模型精度比对余弦相似度

精度调试工具

昇腾精度比对工具（compare_m… · dump数据方法 · 逐层精度比对

精度调试工具compare

NPU推理引擎AscendCL

初始化与资源管理 · 模型加载与卸载 · 输入输出内存管理

AscendCL推理接口详解

aclmdlExecute接口 · 异步推理（aclmdlExecute… · Stream与Event机制

AscendCL推理接口详解

多Batch推理优化

动态Batch与静态Batch · 多线程推理 · 内存池复用

Batch推理优化

模型推理性能分析

Profiling工具使用 · 算子耗时分析 · 带宽瓶颈定位

模型推理性能分析Profiling

算子融合与图优化

CANN图引擎（GE） · 算子融合策略 · 内存复用优化

算子融合图优化

模型部署到边缘设备

Atlas 200 DK环境搭建 · 交叉编译 · 模型部署流程

模型部署到边缘设…Atlas

模型部署到云端

Atlas 300I Pro推理卡 · Docker容器化部署 · RESTful API服务搭建

模型部署到云端Atlas

MindSpore Lite推理

模型转换（MindIR） · Lite推理接口 · 端侧部署

地平线BPU推理

模型转换（hbm） · 地平线工具链（OE） · 推理示例

寒武纪MLU推理

模型转换（cambricon） · 寒武纪Neuware SDK · 推理示例

模型加密与保护

模型加密算法 · 昇腾模型加密工具 · 安全启动

模型加密保护

模型热更新与版本管理

模型热加载 · 版本回滚 · A/B测试

模型热更新版本管理

模型推理日志与监控

日志级别设置 · 性能指标采集 · 告警机制

模型推理日志监控

模型推理安全

输入校验 · 对抗样本防御 · 模型窃取防护

模型推理安全输入校验

多模型流水线推理

模型串行与并行 · Pipeline设计模式 · 异步队列

多模型流水线推理模型串行

模型推理与后处理融合

后处理算子下沉到NPU · 自定义算子开发

模型推理后处理融合

模型推理在视频分析中的应用

视频解码 · 目标检测模型部署 · 跟踪算法集成

模型推理视频分析

模型推理在NLP中的应用

BERT模型转换 · Transformer优化 · 动态shape处理

NLP模型推理

模型推理在推荐系统中的应用

DCN模型部署 · 特征工程 · 实时推理优化

模型推理推荐系统