CUDA Nvidia-smi

目录

一、引言

1.1 监测GPU性能表现

1.2 配置GPU硬件参数设置

1.3 解决GPU相关故障问题

二、应用操作

2.1 检索系统内所有可用的GPU资源

2.2 获取GPU的详尽信息数据

2.3 启用 Persistence 模式功能

2.4 更改GPU时钟频率设置

2.5 调节GPU功率输出水平

---

一、介绍

nvidia-smi 工具能够展示与GPU相关的多项关键数据，包括硬件技术规格、运行时的温度状况以及电源控制等相关信息。

1.1 检测GPU性能

nvidia-smi 的核心作用在于对GPU性能进行实时监测，涵盖对GPU使用率的追踪，用以反映系统当前所调用的GPU计算资源比例。同时，该工具还能够对内存占用情况进行监控，作为评估GPU视频内存（VRAM）被应用程序占用程度的基础性参数。此外，nvidia-smi 还提供温度数据的实时读取功能，以确保GPU始终处于安全的温度范围之内。在需要长时间、高强度运行GPU的应用环境中，这一功能尤为重要，有助于避免因温度过高而导致的性能下降，并维持系统的最佳运行状态。