docker - 我们如何在 Docker 上提高 TensorFlow API 模型的性能

Question

我正在尝试将用于图像处理的 tensorflow 模型投入生产（例如 Yolo），因此我们确实将模型转换为 API，然后我们创建了一个图像 docker，API 模型将在其中运行。

问题是我们在 Docker 映像上运行的 API 模型的性能非常慢，大约每帧/图像 1 秒，而没有 Docker 的模型的性能要快得多，大约每帧/图像 0.01 秒。

有没有办法在 Docker 上运行时提高 API 模型的性能。

我们的 docker 在 24G 显卡 TITAN RTX 上运行

标签： dockertensorflowimage-processingtensorflow-servingyolo