kubernetes - 具有 GPU 工作节点的 Kubernetes 上的 Jupyterhub

Question

我目前面临 JuypterHub 的两个问题。

首先，我在 IBM kubernetes Services 上部署了 Juypterhub。我的集群中有一个裸机和一个 GPU（Nvidia K80）。当运行 Juypterhub 并检查正在消耗多少 GPU（我运行 nvidia-smi 命令）时，它告诉我它已经消耗了 94%，尽管我没有运行任何可以消耗这么多资源的工作负载。有没有办法解决这个问题。

其次，有没有办法让多用户在节点上使用同一个 GPU？我的意思是我可以扩展 JuypterHub 以使用一个 GPU 资源。

标签： kubernetesjupyterhub

Answer 1

我不确定第一个问题，需要更多详细信息才能回答。你的第二个问题的答案是肯定的。有多种方法可以做到这一点。通过覆盖 kubespawner 的组合，限制资源保证，以便您可以在 GPU 上启动多个 pod，并设置 taints 和 tolerations 以选择 GPU 节点。