VIP20

本课程属于：030-华为昇腾Atlas硬件与CANN开发实战 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

AI应用移植昇腾平台指南

📚 共计 30 章节

昇腾AI计算平台概述

昇腾AI处理器的架构、昇腾计算产品线、AI应用移植的整体流程。

架构产品线流程

开发环境准备

CANN软件包的安装与配置、昇腾开发者套件（Atlas 200/300/500）环境搭建、驱动与固件安装。

CANNAtlas驱动

模型适配基础

PyTorch模型转ONNX、ONNX模型转昇腾离线模型（OM）、ATC工具的使用。

模型转换进阶

动态Batch与动态分辨率设置、模型精度校准（AIPP）、算子融合与优化。

动态BatchAIPP算子融合

推理引擎MindSpore Lite

MindSpore Lite的架构、模型转换与部署、在昇腾设备上运行推理。

MindSpore Lite部署推理

推理引擎TensorRT vs 昇腾ACL

昇腾计算语言（ACL）基础、ACL推理流程、与TensorRT的对比。

ACLTensorRT对比

昇腾AI应用开发框架（MindX SDK）

MindX SDK的组件与流水线、pipeline搭建、插件开发。

MindX SDKpipeline插件

数据预处理与后处理

AIPP（AI Preprocessing）配置、图像归一化与数据增强、后处理算子开发。

AIPP归一化后处理

模型性能调优

Profiling工具的使用、算子性能分析、内存优化与数据搬运。

Profiling算子分析内存优化

多模型串联与业务流

多模型pipeline设计、数据流管理、异步推理与同步推理。

pipeline数据流异步推理

昇腾设备上的模型训练

PyTorch适配昇腾（torch_npu）、单卡训练与多卡训练、混合精度训练。

torch_npu多卡训练混合精度

分布式训练

昇腾分布式训练框架（HCCL）、数据并行与模型并行、梯度同步与通信优化。

HCCL数据并行梯度同步

模型迁移常见问题

算子不支持与替换、精度对齐问题、动态shape处理。

算子替换精度对齐动态shape

昇腾AI应用容器化

Docker镜像制作、昇腾设备挂载、容器内推理服务部署。

Docker设备挂载推理服务

昇腾AI应用性能监控

Ascend-DMI工具、日志系统、性能指标采集与分析。

Ascend-DMI日志性能指标

昇腾AI应用安全

模型加密与解密、安全启动、数据隐私保护。

模型加密安全启动隐私保护

昇腾AI应用案例：图像分类与目标检测

图像分类应用移植（ResNet50）、目标检测应用移植（YOLOv5）。

ResNet50YOLOv5移植

昇腾AI应用案例：语义分割与OCR

语义分割应用移植（DeepLabV3+）、OCR应用移植。

DeepLabV3+OCR移植

昇腾AI应用案例：NLP与语音识别

自然语言处理应用移植（BERT）、语音识别应用移植（Whisper）。

BERTWhisper移植

昇腾AI应用案例：推荐系统与视频分析

推荐系统应用移植（Wide & Deep）、视频分析应用移植。

Wide & Deep视频分析移植

昇腾AI应用案例：生成对抗网络与强化学习

生成对抗网络应用移植（StyleGAN）、强化学习应用移植。

StyleGAN强化学习移植

昇腾AI应用案例：3D点云与多模态

3D点云应用移植（PointNet++）、多模态应用移植。

PointNet++多模态移植

昇腾AI应用案例：边缘与云端场景

边缘计算场景移植（Atlas 200）、云端推理场景移植。

边缘计算云端推理Atlas 200

昇腾AI应用案例：模型服务化部署

模型服务化部署（MindSpore Serving）、RESTful API封装。

MindSpore ServingRESTful部署

昇腾AI应用案例：模型量化与压缩

模型量化与压缩、INT8量化部署。

量化INT8压缩

昇腾AI应用案例：模型剪枝与蒸馏

模型剪枝与蒸馏、稀疏化推理。

剪枝蒸馏稀疏化

昇腾AI应用案例：自定义算子开发（TBE）

自定义算子开发（TBE算子）、算子注册与调用。

TBE自定义算子注册

昇腾AI应用案例：CANN自定义算子开发

昇腾CANN自定义算子开发（DSL与TIK）、算子调试。

昇腾AI应用案例：华为云对接

昇腾AI应用与华为云对接、ModelArts训练与部署。

华为云ModelArts部署

昇腾AI应用全流程实战总结

昇腾AI应用全流程实战总结、最佳实践与常见问题汇总。

实战总结最佳实践FAQ