CUDA开发过程解析

全面解析CUDA开发流程

第一部分 CUDA软件栈

_CUDA应用程序主要包含C++ host程序和GPU上的device函数。在对CUDA程序进行编译时，会经过两次预处理过程。首先进行预处理时，利用NVIDIA编译器将GPU上的device函数转换为PTX代码以及CUDA二进制文件，并存入FATBinary文件中。随后，在第二次预处理阶段中，在主机端合成FATBinary文件的同时，也将CUDA扩展库转换为标准C++组件。最后，在主机编译器的作用下，整合主机代码与FATBinary文件生成最终的目标文件。

ptx(Parallel Thread eXecution)是CUDA环境中使用的汇编语言，类似CPU环境中的asm。
fat binary又叫multiarchitecture binary，是一种集成了多种指令集、可以运行在多种类型的处理器上的可执