nvprof 分析工具概览

nvprof 是一款适用于 Linux、Windows 以及 OS X 操作系统的命令行分析工具。通过执行命令 nvprof ./myApp，用户能够迅速获取应用程序所调用的所有内核及内存复制操作的概览信息，该概览会将相同内核的多次调用合并，并展示每个内核所消耗的总时间及其在整体应用运行时间中所占的比例。除概览模式外，nvprof 还提供了 GPU 跟踪与 API 跟踪两种模式，前者可列出所有内核启动和内存复制操作的完整明细，而后者则进一步展示完整的 CUDA API 调用列表。以下为使用 nvprof --print-gpu-trace 命令对运行于我电脑上两块 GPU 上的 nbody 示例程序进行性能评估的一个实例。从输出结果中可以看出每个内核具体是在哪一块 GPU 上执行，并且能够查看每次启动时所采用的网格维度参数。当需要确认多 GPU 应用程序是否按照预期正常运行时，此类信息具有重要的参考价值。

    nvprof --print-gpu-trace ./nbody --benchmark -numdevices=2 -i=1
    
    ...
    
    ==4125== Profiling application: ./nbody --benchmark -numdevices=2 -i=1
    
    ==4125== Profili