nvidia-smi 内存使用和 GPU 内存使用有什么区别?

What's the difference between nvidia-smi Memory-Usage and GPU Memory Usage?

运行 nvidia-smi 命令显示例如:

Memmory-UsageGPU Memory Usage有什么区别?

Memory-Usage表示:

used memory/total memory

已用内存是 GPU 内存的使用量。如果没有人使用任何内存,则总内存是多少。

GPU Memory Usage 简单地按流程分解。

此输出显然有一个进程 运行,并且该进程使用 10557 兆字节的 GPU 0 内存。这与上面报告的 10570 数字基本相同。是的,有一点不同,这是由于与该进程无关的 GPU 内存消耗(例如,由 CUDA 本身使用)。