mlflow - MLflow 部署可能性之间的差异

Question

在决定如何从 MLflow 提供模型时，有人可以解释一下主要用例是什么：

• 使用命令行“mlflow 模型服务 -m ....”
• 使用相同模型部署本地 Docker 容器
• 在线部署模型，例如在 AWS Sagemaker 上

我主要对选项 A 和 B 之间的差异感兴趣，因为据我了解，两者都可以作为 REST API 端点进行访问。我假设如果网络规则到位，那么两者都可以在外部调用。

标签： mlflow

Answer 1

恕我直言，主要区别在文档中进行了描述：

注意：默认情况下，容器会启动 nginx 和 gunicorn 进程。如果您不需要启动 nginx 进程（例如，如果您将容器部署到 Google Cloud Run），您可以通过 DISABLE_NGINX 环境变量禁用它

并且model serve仅使用Flask，因此它的可扩展性可能较低。