VIP20
本课程属于：055-AI　ISP混合架构开发 AI视觉与工业视觉 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

实时　处理中的AI加速方案

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
AI加速概览
为什么需要AI加速？实时处理的挑战与…
AI加速概览
02
硬件加速基础
CPU · GPU · FPGA
硬件加速基础CPU
03
GPU加速实战
CUDA编程模型 · Tensor Core原理 · 内存优化技巧
GPU加速实战
04
FPGA加速入门
HLS开发流程 · 流水线设计 · 定点数优化
FPGA加速入门
05
模型量化与剪枝
INT8/INT4量化原理 · 结构化剪枝 · 蒸馏技术
模型量化剪枝
06
推理引擎部署
TensorRT · ONNX Runtime · OpenVINO的配置与调优
推理引擎部署TensorRT
07
边缘端加速
Jetson平台 · TFLite Micro · MCU上的AI部署
边缘端加速Jetson
08
分布式训练加速
数据并行 · 模型并行 · 流水线并行
分布式训练加速数据并行
09
编译优化技术
TVM · XLA · MLIR的图优化与算子融合
编译优化技术TVM
10
实时视频分析加速
DeepStream · GStreamer集成 · 多路流处理
实时视频分析加速DeepStream
11
语音识别加速
WeNet · Kaldi的实时解码优化
语音识别加速WeNet
12
NLP模型加速
Transformer的稀疏注意力 · FlashAttention · KV Cache
NLP模型加速
13
推荐系统加速
Embedding压缩 · 特征交叉 · GPU上的大规模稀疏训练
推荐系统加速Embedding
14
自动驾驶感知加速
BEV感知 · 点云处理 · 多传感器融合的实时性
自动驾驶感知加速BEV
15
高性能计算库
cuDNN · cuBLAS · oneDNN的底层优化策略
高性能计算库cuDNN
16
内存与带宽优化
数据布局 · 预取 · 共享内存
内存带宽优化
17
异步与并发编程
CUDA Stream · Event · 多线程流水线
异步并发编程
18
模型服务化
Triton Inference S… · TorchServe · KServe
模型服务化Triton
19
自动混合精度
AMP原理 · Loss Scaling · 梯度累积
自动混合精度AMP
20
硬件仿真与性能分析
NVIDIA Nsight · Intel VTune · FPGA时序分析
硬件仿真性能分析
21
自定义算子开发
CUDA C++扩展 · PyTorch自定义算子 · Triton语言
自定义算子开发CUDA
22
图神经网络加速
GCN · GAT的稀疏化与硬件映射
图神经网络加速GCN
23
强化学习加速
环境并行 · 经验回放优化 · 分布式RL框架
强化学习加速环境并行
24
生成式AI加速
Stable Diffusion · LLM推理的KV Cache与Pag…
AI生成式
25
多模态模型加速
CLIP · Flamingo的跨模态对齐与推理优…
多模态模型加速CLIP
26
低功耗设计
近阈值计算 · 存算一体 · 脉冲神经网络
低功耗设计近阈值计算
27
云原生AI加速
Kubernetes上的GPU调度 · 弹性训练 · Spot实例
AI云原生
28
安全与隐私加速
联邦学习 · 同态加密 · 安全多方计算的硬件加速
安全隐私加速
29
未来趋势
光计算 · 量子机器学习 · 存内计算架构
未来趋势光计算
30
综合实战
从模型训练到端侧部署的全链路加速案例
综合实战从模型训练到端侧…