4. 零拷贝技术

好，咱们今天聊点硬核的——零拷贝技术。

说实话，我刚接触CUDA那会儿，最头疼的就是数据搬运。CPU算好了，拷到GPU；GPU算完了，再拷回来。来回折腾，带宽就那么点，延迟还高。后来我意识到，很多时候我们根本不需要「拷贝」这个动作。你想想看，如果CPU和GPU能共享同一块物理内存，那不就省事了吗？

嗯，这就是零拷贝技术的核心思想。

4.1 固定内存（Pinned Memory）—— 别让数据在内存里「漂移」

先说说最基础的概念。普通的内存页，操作系统是可以随时换进换出的。这叫可分页内存。但GPU访问这种内存时，有个大问题——它不知道物理地址在哪。每次DMA传输前，CUDA驱动得先把数据锁定到物理内存里，再启动传输。这个过程叫「页锁定」，有开销的。

那怎么办？直接用 cudaHostAlloc 分配内存。这种内存叫固定内存，也叫页锁定内存。操作系统不会把它换出到磁盘，物理地址是固定的。

我在项目中遇到过这样一个坑：用 malloc 分配了超大数组，然后反复调用 cudaMemcpy 往GPU传数据。结果发现传输速度只有理论带宽的一半。后来换成 cudaHostAlloc，速度直接翻倍。为什么？因为每次 cudaMemcpy 背后，驱动都在偷偷做页锁定和解锁，这个开销在大量小传输时尤其明显。

// 固定内存分配示例
float *h_data;
cudaHostAlloc(&h_data, N * sizeof(float), cudaHostAllocDefault);

// 使用完后释放
cudaFreeHost(h_data);

4.2 映射锁页内存（Mapped Pinned Memory）—— 真正的「零拷贝」

固定内存虽然快，但还是要显式调用 cudaMemcpy 来搬运数据。有没有更极致的方案？有——映射锁页内存。

说白了，就是让GPU直接访问CPU的物理内存地址。CPU和GPU共享同一块物理内存，不需要任何拷贝操作。这就是真正的「零拷贝」。

// 映射锁页内存分配
float *h_data;
cudaHostAlloc(&h_data, N * sizeof(float), cudaHostAllocMapped);

// 获取对应的GPU设备指针
float *d_data;
cudaHostGetDevicePointer(&d_data, h_data, 0);

// 现在CPU和GPU都可以直接读写这块内存
// CPU端：h_data[i] = ...
// GPU端：d_data[i] = ...

这里有个关键点：分配时必须加上 cudaHostAllocMapped 标志。然后通过 cudaHostGetDevicePointer 拿到GPU视角的指针。之后，CPU和GPU就能同时操作同一块数据了。

我曾经在一个实时信号处理项目里用过这个技术。CPU负责采集数据，GPU负责滤波计算。如果用传统方式，每帧数据都要拷贝一次，延迟根本压不下来。后来改成映射锁页内存，CPU直接把数据写到共享内存里，GPU轮询读取，延迟从毫秒级降到了微秒级。嗯，效果立竿见影。

4.3 统一虚拟寻址（UVA）—— 让指针「不分家」

说到这，你可能已经发现了：CPU和GPU各有各的地址空间。CPU指针不能直接在GPU上用，反之亦然。这就导致代码里到处都是 cudaMemcpy 和指针转换，很烦人。

统一虚拟寻址（UVA）就是来解决这个问题的。它让CPU和GPU共享同一个虚拟地址空间。也就是说，CPU指针和GPU指针在数值上可能不同，但底层硬件知道怎么路由访问请求。

UVA是CUDA 4.0引入的特性，现在基本是默认开启的。你可以在设备属性里检查：

cudaDeviceProp prop;
cudaGetDeviceProperties(&prop, 0);
if (prop.unifiedAddressing) {
    printf("UVA is supported\n");
}

有了UVA，映射锁页内存的使用就更方便了。你甚至不需要显式调用 cudaHostGetDevicePointer，因为UVA下CPU指针和GPU指针是等价的。不过我个人习惯还是显式获取一下，代码更清晰，也方便调试。

4.4 三种技术的对比与选择

说了这么多，咱们来总结一下。这三种技术各有各的适用场景，别搞混了。

技术	分配方式	是否需要拷贝	GPU访问速度	适用场景
固定内存	cudaHostAlloc（默认）	需要 cudaMemcpy	快（显存带宽）	大数据量、频繁传输
映射锁页内存	cudaHostAlloc（Mapped）	不需要	慢（PCIe带宽）	小数据量、低延迟、CPU-GPU共享
统一虚拟寻址	系统特性（默认开启）	视情况而定	取决于具体实现	简化编程模型、多GPU编程

4.5 一张图看懂零拷贝技术体系

下面这张图展示了三种技术的关系和适用边界。我画的时候特意把「拷贝路径」和「直接访问路径」区分开了，方便你理解。

4.6 避坑指南

最后，分享几个我踩过的坑，希望能帮你少走弯路。

好了，零拷贝技术就聊到这。记住一句话：能不拷就不拷，实在要拷就用固定内存。下一节我们会聊流与并发执行，到时候这些内存管理技巧会派上大用场。