VIP10
本课程属于：053-边缘AI图像识别 嵌入式基础与RISC-V · 共 10 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

边缘AI图像识别模型量化与推理性能调优实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
边缘AI概述
边缘计算与AI的结合 · 边缘AI的应用场景（安防 · 工业
AI边缘
02
模型量化基础
什么是模型量化 · 量化的数学原理（对称/非对称量化） · 量化精度与性能的权衡
模型量化基础什么是模型量化
03
量化工具链介绍
TensorFlow Lite · ONNX Runtime · PyTorch Mobile
量化工具链介绍TensorFlow
04
训练后量化（PTQ）
PTQ原理 · 校准数据集的选择 · PTQ实战（以TensorFlow…
PTQ训练后量化
05
量化感知训练（QAT）
QAT原理 · 伪量化节点 · QAT实战（以PyTorch为例）
QAT量化感知训练
06
混合精度量化
层级别混合精度 · 通道级别混合精度 · 敏感度分析
混合精度量化层级别混合精度
07
模型剪枝基础
结构化剪枝与非结构化剪枝 · 剪枝策略（L1/L2范数 · 梯度）
模型剪枝基础结构化剪枝
08
模型蒸馏
知识蒸馏原理 · 教师-学生网络 · 蒸馏损失函数设计
模型蒸馏知识蒸馏原理
09
模型结构优化
轻量化网络设计（MobileNet · ShuffleNet · EfficientNet-Lite）
模型结构优化MobileNet
10
推理引擎选择
TensorFlow Lite vs…
推理引擎选择TensorFlow
11
TensorFlow Lite实战
模型转换（.pb/.h5 -> .t… · 量化配置 · Delegate（GPU/NPU）加…
TensorFlowLite
12
ONNX Runtime实战
模型导出（PyTorch -> ON… · 优化级别 · Execution Provider…
ONNXRuntime
13
TensorRT实战
模型解析（ONNX -> Tenso… · Builder配置 · INT8量化与校准
TensorRTONNX
14
OpenVINO实战
模型优化器（MO） · 推理引擎（IE） · FP16/INT8量化
OpenVINOMO
15
NCNN实战
模型转换（ncnnoptimize） · Vulkan加速 · INT8量化
NCNNncnnoptimize
16
MNN实战
模型转换（MNNConverter） · 量化工具 · 多后端支持（CPU/GPU/NPU）
MNNMNNConverter
17
Tengine实战
模型加载与推理 · 量化工具 · ARM CPU优化
Tengine模型加载
18
Paddle Lite实战
模型导出（Paddle -> Pad… · 量化策略 · 硬件加速
PaddleLite
19
Core ML实战
模型转换（coremltools） · 量化（FP16/INT8） · ANE（Apple Neural E…
CoreML
20
推理性能评估指标
延迟（Latency） · 吞吐量（Throughput） · 功耗（Power）
推理性能评估指标Latency
21
Profiling工具使用
TensorFlow Lite Be… · ONNX Runtime Perf… · NVIDIA Nsight
Profiling工具使用
22
算子优化
算子融合（Conv+BN+ReLU） · 内存布局优化（NHWC vs NCH… · Winograd算法
算子优化Conv+BN+ReLU
23
内存优化
内存复用 · 张量压缩 · 逐层推理与内存池
内存优化内存复用
24
多线程与异步推理
线程池设计 · Pipeline并行 · 异步推理框架
多线程异步推理
25
异构计算
CPU+GPU+NPU协同 · 任务调度策略 · 数据搬运优化
异构计算CPU+GPU+NPU
26
端侧部署实战（Android）
JNI接口封装 · NCNN/TensorFlow Li… · 性能调优
Android端侧部署实战
27
端侧部署实战（iOS）
Core ML集成 · ANE利用 · Metal Performance…
iOS端侧部署实战
28
端侧部署实战（Linux ARM）
交叉编译 · OpenCV优化 · NEON指令集加速
LinuxARM
29
端侧部署实战（MCU）
TinyML · TensorFlow Lite Mi… · CMSIS-NN
MCU端侧部署实战
30
综合案例
从模型训练到端侧部署的全流程实战（人…
综合案例从模型训练到端侧…