NVIDIA GPUの利用状況を確認するCLIツール nvidia-smi
Table of Content
nvidia-smiとは
nvidia-smiは、NVIDIA社が提供するGPU管理用のCLI（Command Line Interface）ツールです。
正式名称は NVIDIA System Management Interfaceで、その頭文字を取ってnvidia-smiと呼ばれています。
nvidia-smiを使うと、GPUの利用状況や温度、メモリ使用量、ドライバのバージョンなどをコマンドラインから確認できます。
なお、このツールは、NVIDIAのGPUを利用している場合は、ドライバとともにインストールされているようなので、自身でインストールする必要はありません。
nvidia-smiでは、次のようなことができます。
- GPUの利用率（使用率、プロセスごとの占有状況）
- GPUメモリの使用量
- 温度や電力消費の確認
- ドライババージョン、CUDAバージョンの表示
- 実行中のプロセスと関連付けられたGPUリソースの表示
最もシンプルなコマンドが nvidia-smi です。これを実行すると、現在のGPUの仕様や使用状況情報が返されます。
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 555.42.02 Driver Version: 555.42.02 CUDA Version: 12.3 |
|-------------------------------+----------------------+----------------------|
| GPU Name TCC/WDDM | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|===============================+======================+======================|
| 0 NVIDIA GeForce RTX 4070 WDDM | 00000000:01:00.0 Off | N/A |
| N/A 50C P8 12W / N/A | 320MiB / 12288MiB | 1% Default |
| | | N/A |
+-------------------------------+----------------------+----------------------+
nvidia-smiの出力サンプル
どんな時に有用？
- インストールされているNVIDIAドライバのバージョンやCUDAのバージョンといった、仕様の確認する時
- GPUの使用状況を確認・監視する時
ただ、表の見出しにある「CUDA Version」はドライバがサポートする最大CUDAを示すようなので、実際のバージョンと異なる可能性もあるようです。
次のように、オプションを使用すると、"1秒ごとに情報を更新する"といった確認もできます。
nvidia-smi -l 1
詳しくは、公式サイトなどの情報をチェックしてみて下さい。
公式サイトや参考サイト
- System Management Interface SMI | NVIDIA Developer
- docs.nvidia.com/deploy/nvidia-smi/index.html
- CUDA - Wikipedia
