VIP20

本课程属于：026-CUDA内存拷贝 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

吞吐优化 · 从内存拷贝入手

📚 共计 30 章节

内存拷贝的代价

为什么内存拷贝是性能杀手？CPU缓存与内存带宽的博弈。

零拷贝技术原理

mmap、sendfile、splice 系统调用详解。

用户态与内核态切换

上下文切换对吞吐的影响。

上下文内核

硬件如何帮我们搬数据。

缓冲区设计

环形缓冲区、双缓冲、内存池。

环形缓冲内存池

SIMD指令优化

SSE/AVX 加速内存拷贝。

不对齐的后果与对齐策略。

TLB缺失与HugePages。

本地内存与远端内存的延迟差异。

Cache Line伪共享

多线程下的隐形杀手。

伪共享多线程

Copy-on-Write 的妙用。

COW写时复制

内存映射文件

mmap 实战与性能对比。

mmap文件映射

网络协议栈中的拷贝

从recv到用户空间的路径。

绕过内核的网络数据面优化。

远程直接内存访问技术。

RDMA远程内存

GPU内存拷贝

CPU与GPU之间的数据传输瓶颈。

异步拷贝与重叠

使用异步IO隐藏拷贝延迟。

内存拷贝的Benchmark

如何正确测量拷贝性能。

Benchmark测量

编译器优化

-O3、memcpy内建函数与循环展开。

乱序执行对拷贝一致性的影响。

非临时存储

NT stores 与 Write-Combining。

硬件加速：I/OAT & QAT

Intel I/OAT 与 QAT。

文件系统缓存

Page Cache 的读写路径优化。

Page Cache文件系统

序列化与反序列化

避免隐式内存拷贝。

序列化零拷贝

进程间通信中的零拷贝方案。

共享内存IPC

内存拷贝与垃圾回收

GC对吞吐的影响。

Rust所有权与零拷贝

Rust中的所有权与零拷贝抽象。

Go slice/string零拷贝

Go语言中的slice与string的零拷贝转换。

实际案例：100Gbps网卡

从100Gbps网卡看内存拷贝优化。

总结与展望

未来内存拷贝技术的发展趋势。