tensorflow - CUDA编程：占用是实现不同进程间GPU切片的方式吗？

Question

有多种方法可以实现 GPU 共享。我遇到了占用。我可以使用它在共享 GPU 的进程（例如 tensorflow）中对 GPU 进行切片吗？这里的 slice 意味着 GPU 资源始终专用于该进程。使用占用率，我将了解 GPU 和 SM 的详细信息，并在此基础上启动内核，说明为这些 GPU 资源创建块。
我正在使用安装了 cuda 9 工具包的 NVIDIA Corporation GK210GL [Tesla K80]
请建议。谢谢！

标签： tensorflowcudacluster-computinggpgpugpu

Answer 1

有多种方法可以实现 GPU 共享。

不，没有。一般来说，没有您设想的 GPU 共享类型。有用于 MPI 样式多进程计算的MPS 服务器，但这与运行 Tensorflow 的上下文无关（请参阅此处了解为什么不能使用 MPS）。

我遇到了占用。我可以使用它在共享 GPU 的进程（例如 tensorflow）中对 GPU 进行切片吗？

不，你不能。占用率是一个性能指标。它与在不同进程之间共享 GPU 资源的能力无关，

请建议

购买第二个 GPU。