使用硬件加速时的 GPU 内存

Question

我已经多次 运行 解决 colab 上的问题（尤其是在使用 PyTorch 时），其中使用 .cuda() 方法的中断内核在重新启动时会 运行 内存不足.

同事建议在colab平台不同用户之间共享GPU显存。这似乎是一个非常糟糕的主意，但可能是解决这个问题的一个方法。谁能确认硬件加速器专用于特定用户在 colab 上的会话？

谢谢

Answer 1

已确认每个硬件加速器都分配给了一个用户，并且每个笔记本都有自己的硬件分配。 （前者自推出以来一直如此，后者最近才成为现实）。

问题使用了表达式 "user's session" 但没有定义它。具体而言，上述排他性适用于（用户，笔记本）对。 （例如，不包括浏览器选项卡）。