首页 > 解决方案 > tfserving 中是否有任何函数或 api 用于重新加载加载的特定版本模型?

问题描述

我正在使用 tfserving 为具有特定版本的模型提供服务,该版本可以随时被覆盖。

model_config_list {
    config {
        name: "common"
        base_path: "/var/models/common"
        model_platform: "tensorflow"
        model_version_policy {
            specific {
                versions: 0
            }
        }
    }
}

当通过覆盖更新模型文件(位于/var/models/common/0)时,其余 apihttp://localhost:8501/v1/models/common/versions/0:predict 返回旧versions: 0模型的输出,而不是我更新的最新输出。

那么,是否有 rpc 函数或 rest api 来versions: 0从文件中重新加载模型?

在 url 中添加版本号base_path和不指定versions可以解决这个问题,但由于某种原因我不会这样做。

标签: tensorflowtensorflow-serving

解决方案


推荐阅读