VIP6
本课程属于：158-边缘AI芯片性能与功耗优化 AI智能与边缘计算工程 · 共 6 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

边缘端大模型剪枝与部署实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
边缘计算基础
边缘端硬件平台（Jetson · RK3588 · 树莓派等）
边缘计算基础Jetson
03
大模型基础与剪枝动机
Transformer架构 · 参数量与计算量分析 · 为什么需要剪枝
大模型基础剪枝动机
04
剪枝核心概念
结构化剪枝与非结构化剪枝 · 稀疏度 · FLOPs
剪枝核心概念结构化剪枝
05
剪枝方法分类
权重剪枝 · 神经元剪枝 · 通道剪枝
剪枝方法分类权重剪枝
06
剪枝流程与工具链
数据准备 · 训练前剪枝 · 训练后剪枝
剪枝流程工具链
07
非结构化剪枝实战
基于PyTorch实现权重级剪枝 · 稀疏训练 · 稀疏推理
非结构化剪枝实战PyTorch
08
结构化剪枝实战
通道剪枝与层剪枝的实现 · 剪枝后模型结构修改 · BN层缩放因子剪枝（Slimming…
结构化剪枝实战通道剪枝
09
剪枝后微调与精度恢复
学习率策略 · 蒸馏辅助 · 知识蒸馏与剪枝结合
剪枝后微调精度恢复
10
模型量化基础
INT8/FP16量化原理 · 对称与非对称量化 · 量化感知训练（QAT）与训练后量化（…
模型量化基础INT8/FP16
11
剪枝与量化协同
剪枝+量化联合优化 · 混合精度 · 硬件加速器对稀疏与量化的支持
剪枝量化协同
12
边缘端推理框架
ONNX Runtime · TensorRT · OpenVINO
边缘端推理框架ONNX
13
模型转换与优化
PyTorch/TensorFlow… · ONNX简化 · 算子融合
模型转换优化
14
TensorRT部署实战
TensorRT环境搭建 · 构建引擎 · INT8校准
TensorRT部署实战
15
OpenVINO部署实战
模型优化器 · IR格式 · CPU/GPU/VPU插件
OpenVINO部署实战
16
NCNN/MNN移动端部署实战
模型转换 · 内存优化 · ARM CPU/GPU加速
NCNN/MNN移动端部署实战
17
边缘端硬件适配
Jetson系列（TX2/NX/AG… · RK3588 NPU部署 · 树莓派CPU部署
边缘端硬件适配Jetson
18
端侧推理性能评估
延迟 · 吞吐量 · 功耗
端侧推理性能评估延迟
19
剪枝与部署全流程案例（一）
以BERT-base为例 · 进行结构化剪枝 · 量化
剪枝部署全流程案例
20
剪枝与部署全流程案例（二）
以YOLOv5/v8为例 · 通道剪枝 · INT8量化
剪枝部署全流程案例
21
剪枝与部署全流程案例（三）
以/LLaMA小模型为例 · 层剪枝 · 蒸馏
剪枝部署全流程案例
22
常见问题与调试
剪枝后精度骤降 · 稀疏度与性能不成正比 · 量化误差
常见问题调试
23
自动化剪枝与神经架构搜索
AutoML剪枝 · 基于强化学习的剪枝 · One-shot剪枝
自动化剪枝神经架构搜索
24
剪枝与模型压缩前沿
动态剪枝 · 可逆剪枝 · 低秩分解
剪枝模型压缩前沿
25
边缘端部署安全与鲁棒性
模型加密 · 对抗攻击 · 剪枝对鲁棒性的影响
边缘端部署安全鲁棒性
26
多模型管理与流水线
多模型并行 · 模型分片 · 边缘-云协同
多模型管理流水线
27
实战项目
智能摄像头目标检测模型剪枝与部署（从…
实战项目智能摄像头目标检…
28
实战项目
语音唤醒词模型压缩与部署（小模型剪枝 · 量化 · 嵌入式部署）
实战项目语音唤醒词模型压…
29
实战项目
工业缺陷检测模型优化（剪枝 · 蒸馏 · TensorRT部署到工控机）
实战项目工业缺陷检测模型…
30
课程总结与进阶路径
知识体系回顾 · 常见误区 · 学习资源推荐
课程总结进阶路径