所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。

← 返回上一级

← 返回所属目录咨询 / 购买

模型裁剪量化边缘AI嵌入式端侧推理

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 核心概念 · 整体框架

课程导入学习目标

边缘计算与云端的区别 · 端侧推理的硬件平台（ARM · NPU

深度学习模型基础

卷积神经网络 · Transformer等常见架构 · 以及模型参数

深度学习模型基础卷积神经网络

模型压缩概览

裁剪 · 量化 · 蒸馏

模型压缩概览裁剪

模型裁剪原理

结构化裁剪与非结构化裁剪的区别 · 权重裁剪 · 通道裁剪

模型裁剪原理结构化裁剪

裁剪粒度与评估

细粒度 · 向量级 · 核级

裁剪粒度评估

裁剪方法实战

基于L1/L2范数 · BN层gamma值 · 泰勒展开等常见裁剪准则

裁剪方法实战L1/L2

裁剪后微调

裁剪后模型精度恢复的微调策略 · 包括学习率调度 · 知识蒸馏辅助

裁剪后微调裁剪后模型精度恢…

定点数与浮点数表示 · 线性量化与非线性量化 · 对称量化与非对称量化

量化基础定点数

量化感知训练

模拟量化 · 直通估计器（STE） · 量化感知训练流程

量化感知训练模拟量化

训练后量化

PTQ（Post-Training… · 包括校准数据集选择 · 激活值范围统计

训练后量化PTQ

量化推理实现

整数矩阵乘法 · 量化卷积的底层实现 · 以及如何在CPU/GPU/NPU上高…

量化推理实现整数矩阵乘法

混合精度量化

不同层采用不同位宽（如8bit · 4bit · 2bit）的策略

混合精度量化bit

使用PyTorch/TensorFl… · 对比INT8模型与FP32模型的精度…

量化实战PyTorch/Tens…

知识蒸馏与压缩

教师-学生网络 · 软标签 · 特征蒸馏

知识蒸馏压缩

低秩分解与张量分解

SVD · CP分解 · Tucker分解在模型压缩中的应用

低秩分解张量分解

端侧推理框架

TensorFlow Lite · ONNX Runtime · NCNN

端侧推理框架TensorFlow

嵌入式硬件加速

NPU · DSP · GPU的编程模型

嵌入式硬件加速NPU

模型转换与优化

从PyTorch/TensorFlo… · 包括算子融合 · 内存布局优化

模型转换优化

端侧部署实战

在树莓派 · Jetson · 手机或MCU上部署一个量化裁剪后的模…

端侧部署实战树莓派

性能评估与调优

延迟 · 吞吐量 · 内存占用

性能评估调优

常见问题与解决方案

精度下降 · 模型崩溃 · 硬件不支持算子

常见问题解决方案

YOLOv5或MobileNet的裁… · 从原始模型到端侧部署的完整流程

案例实战YOLOv5

Transformer模型（如BER… · ViT）在边缘设备上的压缩与部署 · 包括注意力机制量化

案例实战Transformer

自动化压缩工具

使用OpenVINO NNCF · TensorFlow Model O… · Intel Distiller等工具…

自动化压缩工具OpenVINO

模型安全与鲁棒性

压缩对模型鲁棒性的影响 · 以及对抗攻击下的表现 · 如何保持安全性

模型安全鲁棒性

神经架构搜索（NAS）与压缩结合 · 动态量化 · 超低比特量化（二值/三值网络）的最新…

前沿趋势NAS

设计一个完整的边缘AI应用（如智能门… · 工业质检） · 从需求分析

课程总结与进阶路径

回顾核心知识点 · 推荐学习资源 · 开源项目

课程总结进阶路径

结课考核与答疑

综合测试题 · 实战项目评审 · 以及常见疑问的集中解答

结课考核答疑