docker - 使用 docker 服务多个 tensorflow 模型
问题描述
看到这个github 问题和这个stackoverflow 帖子后,我希望这能简单地工作。
似乎传递环境变量MODEL_CONFIG_FILE
没有影响。我正在运行这个,docker-compose
但我使用docker-run
.
错误:
I tensorflow_serving/model_servers/server.cc:82] Building single TensorFlow model file config: model_name: model model_base_path: /models/model
I tensorflow_serving/model_servers/server_core.cc:461] Adding/updating models.
I tensorflow_serving/model_servers/server_core.cc:558] (Re-)adding model: model
E tensorflow_serving/sources/storage_path/file_system_storage_path_source.cc:369] FileSystemStoragePathSource encountered a file-system access error: Could not find base path /models/model for servable model
Dockerfile
FROM tensorflow/serving:nightly
COPY ./models/first/ /models/first
COPY ./models/second/ /models/second
COPY ./config.conf /config/config.conf
ENV MODEL_CONFIG_FILE=/config/config.conf
撰写文件
version: '3'
services:
serving:
build: .
image: testing-models
container_name: tf
配置文件
model_config_list: {
config: {
name: "first",
base_path: "/models/first",
model_platform: "tensorflow",
model_version_policy: {
all: {}
}
},
config: {
name: "second",
base_path: "/models/second",
model_platform: "tensorflow",
model_version_policy: {
all: {}
}
}
}
解决方案
我在 Windows 上遇到了 git bash 的这个双斜杠问题。
因此,我将@KrisR89 提到的论点通过command
.docker-compose
新的docker-compose
看起来像这样并与提供的一起使用dockerfile
:
version: '3'
services:
serving:
build: .
image: testing-models
container_name: tf
command: --model_config_file=/config/config.conf
推荐阅读
- database-performance - Postgresql 设置查询优化参数
- python - 将 Python 列表转换为 networkx 图
- angular - Angular 6 - 使用 *ngFor 显示数据的问题(数据未显示)
- java - 在Java中,“”和“\\s”有什么区别?
- tfs - 在 TFS 构建中增加变量值 +1
- php - select * from apply_jobs where appid like '%RAD-0001%' and job_id IN ('41,48,49') order by id asc
- node.js - (Node.JS Jimp) 如何使文本居中?
- dynamics-crm - 美元 - MS CRM - 新的 CRM 页面不工作
- react-native - FlatList - 将 ScrollView 内容位置保持在同一位置?
- css - Internet Explorer - CSS box-Shadow on table 不适用于 IE 浏览器