azure - Azure Functions 的 AKS（Azure Kubernetes 服务）Pod 冷启动

目前我正在尝试让现有的 Azure 函数在 AKS 上运行。Azure Function 本身加载评估一个大型机器学习模型，因此我正在使用应用服务，因此它不会闲置，并将始终将模型保存在内存中，以便快速处理传入的请求。

但是，在 AKS 中，默认运行的 pod 数量为 0。所以当新请求进来时（azure 函数处理队列中的请求），AKS 从头开始创建新的 pod，这需要很多时间（因为模型很大，必须加载）。

如何设置应始终运行的最小 pod 数量？比方说，至少1，所以不会有这么长时间的冷启动。

标签： azuremachine-learningazure-functionsazure-aks

由于您从队列中的消息运行，我假设您使用的是 KEDA。如果是这样，您将必须minReplicaCount在您的ScaledObject定义中设置。