首页 > 解决方案 > 从使用 kubectl 创建的 kfserving github 示例中提供服务,但无法推断

问题描述

我已经在 linux 桌面上安装了 minikube 集群和 kfserving。然后我跟着两个教程
https://github.com/kubeflow/kfserving/tree/master/docs/samples/v1beta1/custom/torchserve
https://github.com/kubeflow/kfserving/tree/master/docs/samples /v1alpha2/custom/kfserving-custom-model

在第二个教程中,我需要将 yaml 文件中的“名称:自定义”从“自定义:”部分移动到“容器:”部分。
我预计服务服务正在工作并响应服务请求和服务的 pod 在 Kubernetes 中。
我使用 2021 年 5 月以来的最新稳定版本。

但是我在两个教程中都有相同的错误。波纹管命令来自第一个教程。当我使用模型准备 docker 图像并运行时

$ kubectl apply -f torchserve-custom.yaml

命令。
我看到像这样的输出

inferenceservice.serving.kubeflow.org/torchserve-custom created

但我无法运行预测,因为找不到 404 服务。
当我跑

$ kubectl get pods --all-namespaces

我没有看到任何新的豆荚。
但我可以删除服务

 $ kubectl delete -f torchserve-custom

当我遵循其他教程时,例如:https ://github.com/kubeflow/kfserving/tree/master/docs/samples/v1beta1/torchserve一切正常,我可以运行预测。

为什么我不能运行预测?

为什么要创建新的 pod?

如果上述教程不起作用,如何使用 docker 映像在 kfserving 中设置服务?

标签: kubernetespytorchminikubekubeflowserving

解决方案


It turned out that my local docker registry wasn't visible from kubernetes. kubectl get events shows InternalError "Unable to fetch image ... "


推荐阅读