VIP14
本课程属于：012-工业视觉在线检测与模型量产 智能制造_工业装备与数字化生产工程 · 共 14 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

多硬件平台视觉推理适配工程

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入与工程全景
目标=多硬件平台视觉推理适配的定义 · 挑战 · 典型应用场景与完整工程流程
课程导入工程全景
02
视觉推理模型基础
目标=CNN · Transformer · 检测/分割/分类等常见视觉模型的计算…
视觉推理模型基础CNN
03
硬件平台概览
目标=CPU · GPU · NPU
硬件平台概览CPU
04
模型表示与中间格式
目标=ONNX · TorchScript · TensorFlow SavedMo…
模型表示间格式
05
算子语义与硬件映射
目标=卷积 · 池化 · 归一化
算子语义硬件映射
06
精度与性能权衡
目标=FP32 · FP16 · BF16
精度性能权衡
07
量化适配工程
目标=训练后量化 · 量化感知训练 · 校准集构建及多硬件量化部署实战
量化适配工程目标=训练后量化
08
图优化与算子融合
目标=常量折叠 · 算子融合 · 布局转换
图优化算子融合
09
内存与数据布局适配
目标=NCHW · NHWC · NC4HW4等布局差异及跨硬件数据搬…
内存数据布局适配
10
推理运行时与调度
目标=TensorRT · OpenVINO · ONNX Runtime
推理运行时调度
11
CPU平台视觉推理适配
目标=SIMD指令集 · 多线程 · 缓存优化及OpenVINO/oneD…
CPU平台视觉推理适配
12
GPU平台视觉推理适配
目标=CUDA · TensorRT · cuDNN
GPU平台视觉推理适配
13
NPU平台视觉推理适配
目标=华为昇腾 · 瑞芯微 · 寒武纪等NPU的模型转换
NPU平台视觉推理适配
14
移动端与边缘端适配
目标=ARM CPU · Mali GPU · 高通Hexagon
移动端边缘端适配
15
FPGA与可编程逻辑适配
目标=高层次综合 · 定点化 · 流水线设计及视觉推理加速器部署
FPGA可编程逻辑适配
16
异构计算与任务划分
目标=CPU+GPU+NPU协同推理 · 流水线并行 · 负载均衡与通信优化
异构计算任务划分
17
动态输入与多分辨率适配
目标=动态Batch · 动态尺寸 · 多尺度推理在跨硬件上的支持与回退策略
动态输入多分辨率适配
18
模型编译与自动代码生成
目标=TVM · MLIR · XLA
模型编译自动代码生成
19
性能剖析与瓶颈定位
目标=Profiling工具 · 时间线分析 · 算子级耗时拆解与跨硬件对比方法
性能剖析瓶颈定位
20
精度验证与一致性测试
目标=跨硬件推理结果对齐 · 误差容忍度设定 · 回归测试与自动化验证
精度验证一致性测试
21
鲁棒性与异常处理
目标=硬件不支持算子 · 内存不足 · 超时
鲁棒性异常处理
22
端到端视觉推理项目实战一
目标=目标检测模型在多硬件平台上的适…
端到端视觉推理项…目标=目标检测模…
23
端到端视觉推理项目实战二
目标=语义分割模型在边缘NPU与GP…
端到端视觉推理项…NPU
24
端到端视觉推理项目实战三
目标=图像分类模型在移动端CPU与D…
端到端视觉推理项…CPU
25
端到端视觉推理项目实战四
目标=多模态视觉推理模型在异构平台上…
端到端视觉推理项…目标=多模态视觉…
26
自动化适配工具链
目标=模型转换 · 量化 · 编译
自动化适配工具链目标=模型转换
27
持续集成与持续部署
目标=多硬件视觉推理的CI/CD · 版本管理 · 灰度发布与回滚机制
持续集成持续部署
28
能效与热约束优化
目标=功耗 · 散热 · 电池寿命对视觉推理适配策略的影响与调…
能效热约束优化
29
安全与隐私适配
目标=模型加密 · 可信执行环境 · 联邦推理在多硬件上的工程实现
安全隐私适配
30
前沿趋势与工程总结
目标=大视觉模型 · 稀疏化 · 神经架构搜索与多硬件适配的未来方向
前沿趋势工程总结