cudaMalloc和cudaMallocPitch

原文链接

偶有兴趣测试了一下题目中提到的这两个函数，为了满足对齐访问数据，咱们平时可能会用到cudamallocPitch，以为它会带来更高的效率。呵呵，这里给出一段测试程序，大家可以在自己的机器上跑跑，你会发现这两个函数在某些情况下是一样的。

1. #include <stdio.h>
2. #include <stdlib.h>
3. #include <cuda_runtime_api.h>
4. int main(int argc, char **argv)
5. {
6. // device pointers.
7. float *d_pitch;
8. float *d_normal;
9. // matrix size.
10. size_t cols = 63;
11. size_t rows = 16;
12. size_t pitch = 0;
13. // alloc the data form gpu memory.
14. cudaMallocPitch((void**)&d_pitch, &pitch, cols*sizeof(float), rows);
15. cudaMalloc((void**)(&d_normal), rows*cols*sizeof(float));
16. // test the data address.
17. fprintf(stdout, "row size(in bytes) = %.2f*128.\n", pitch/128.0f);
18. fprintf(stdout, "the head address of d_pitch  mod 128 = %x.\n", ((unsigned int)d_pitch)%128);
19. fprintf(stdout, "the head address of d_normal mod 128 = %x.\n", ((unsigned int)d_normal)%128);
20. cudaFree(d_pitch);
21. cudaFree(d_normal);
22. getchar();
23. return 0;
24. }

上面这段程序的运行结果如下：

1. row size(in bytes) = 28.00*128.
2. the head address of d_pitch mod 128 = 0.
3. the head address of d_normal mod 128 = 0.

我多次做过实验，我觉得从以上实验结果可以知道，无论如何改变实验的参数，两个显存申请函数返回的数据首地址都是128，256的整数倍，我猜想GPU上的每个计算单元的数据在全局中加载的时候一次可以连续加载2的幂次个数据，并且这些数据的加载其实地址一定也是2的幂次，所以warp使用全局内存中的数据的时候应该尽量按照对齐的原则加载数据，这样就可以获得更高的效率了。至于对齐原则可以在CUDA的编程手册中找到。