分析和管理CUDA内存占用

CUDA线程在执行过程中具备从多种内存区域获取数据的能力，其内存结构可划分为三个层级：

1，局部内存：每个线程均配备专属的局部内存空间。

2，共享内存：每个线程块（thread block）对应一个共享内存区域，该区域可供该线程块内的所有线程进行读写操作。

3，全局内存：所有线程均可访问这一内存区域。

除此之外，还存在两种可供所有线程读取的只读内存类型：constant内存与texture内存，具体结构如图所示：

CUDA编程模型所构建的系统架构包含两个核心组件，即主机（CPU）与设备（GPU），二者各自配备独立的存储空间。在执行核函数的过程中，需借助特定函数完成内存资源的分配、释放以及数据在主机与设备之间传输等操作。

设备端的存储空间可通过线性内存或CUDA数组两种形式进行配置，其中CUDA数组主要服务于纹理数据的访问需求。

对于线性内存而言，其分配通常依赖于cudaMalloc()函数，并通过cudaFree()实现资源回收，而主机与设备之间的数据交换则由cudaMemcpy()函数负责完成。

在处理二维与三维数据结构时，分别采用cudaMallocPitch()和cud