所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。

← 返回上一级

← 返回所属目录咨询 / 购买

NPU与CPU协同计算架构

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 核心概念 · 整体框架

课程导入学习目标

计算架构基础

CPU · GPU · NPU

计算架构基础CPU

NPU硬件架构详解

NPU内部结构（矩阵单元 · 向量单元 · 标量单元）

NPU硬件架构详解

CPU与NPU的接口与通信

PCIe · CCIX · CXL

异构计算编程模型

OpenCL · CUDA · HIP

异构计算编程模型OpenCL

任务划分与调度策略

如何将计算任务在CPU与NPU之间合… · 静态调度与动态调度方法

任务划分调度策略

数据流与内存管理

数据搬运 · 内存池 · 零拷贝

数据流内存管理

算子开发与优化

常用算子（卷积 · 矩阵乘 · 激活函数）在NPU上的实现与优化技巧

算子开发优化

图编译与优化

计算图优化 · 算子融合 · 内存复用

图编译优化

性能分析与调优

性能剖析工具 · 瓶颈识别 · 负载均衡

性能分析调优

典型应用案例

图像分类 · 目标检测 · 自然语言处理等模型在CPU+NPU架…

典型应用案例图像分类

大模型协同计算

大语言模型在CPU+NPU上的推理与… · 模型并行 · 流水线并行

大模型协同计算CPU+NPU

边缘计算场景

边缘设备中CPU+NPU协同的功耗 · 实时性 · 资源约束与优化

边缘计算场景CPU+NPU

云与数据中心场景

云端异构资源池化 · 虚拟化 · 容器化调度

数据心场景

常见问题与调试

死锁 · 数据竞争 · 内存泄漏

常见问题调试

安全与可靠性

异构计算中的安全隔离 · 容错机制 · 故障恢复

安全可靠性

工具链与开发环境

编译器 · 调试器 · 性能分析器

工具链开发环境

实战项目一

从零搭建一个CPU+NPU的异构计算… · 完成一个简单图像处理任务

实战项目一CPU+NPU

实战项目二

优化一个卷积神经网络在NPU上的推理… · 并对比CPU-only实现

实战项目二NPU

实战项目三

实现一个Transformer模型在… · 并处理动态形状

实战项目三Transformer

实战项目四

在边缘设备上部署一个实时目标检测系统 · 平衡功耗与精度

实战项目四边缘设备上部署一…

稀疏计算 · 量化 · 低精度计算在NPU上的支持与优化

进阶主题稀疏计算

多NPU互联与集群计算 · 以及CPU作为控制平面的角色

进阶主题NPU

异构计算中的自动并行化与编译器自动调…

进阶主题异构计算

NPU虚拟化与多租户隔离 · 以及资源管理

进阶主题NPU

行业趋势与前沿

NPU架构演进 · chiplet · 存算一体

行业趋势前沿

综合复习与知识体系梳理

核心概念 · 关键技术 · 最佳实践总结

综合复习知识体系梳理

设计并实现一个完整的CPU+NPU协… · 完成一个实际应用（如语音识别 · 推荐系统）

综合项目CPU+NPU

考试与评估

理论测试 · 实践操作 · 项目答辩

课程总结与展望

学习收获 · 常见误区 · 进一步学习资源与社区

课程总结学习收获