python - TensorFlow Serving:将图像传递给分类器
问题描述
我在 Tensorflow(Python、tensorflow 1.9.0 和 tensorflow-serving 1.9.0)中构建了一个简单的分类器,它将对象分类为 5 个类之一。现在,我想为那个模型服务。我已经导出它并给它一个分类签名(并且只有一个分类签名):
classification_signature = tf.saved_model.signature_def_utils.build_signature_def(
inputs={signature_constants.CLASSIFY_INPUTS: classification_inputs},
outputs={
signature_constants.CLASSIFY_OUTPUT_CLASSES:
classification_outputs_classes
},
method_name=signature_constants.CLASSIFY_METHOD_NAME)
更进一步,它变成:
builder.add_meta_graph_and_variables(
sess, [tag_constants.SERVING],
signature_def_map={
'classification_results':
classification_signature
},
clear_devices=True, legacy_init_op=legacy_init_op)
当我启动 TF 服务器时,我可以看到正在为模型提供服务。我的问题是如何将图像传递给来自客户端的图像。代码如下:
request = classification_pb2.ClassificationRequest()
request.model_spec.name = model
request.model_spec.signature_name = 'classification_results'
这就是我有点迷茫和困惑的地方。对于 PredictionRequest,代码为:
request.inputs['inputs'].CopyFrom(
tf.contrib.util.make_tensor_proto(image.astype(dtype=np.uint8), shape=[1, height, width, 3]))
但这不适用于分类请求。错误是:
File "TestServices.py", line 99, in make_request
request.inputs['inputs'].CopyFrom(
AttributeError: 'ClassificationRequest' object has no attribute 'inputs'
也没有:
request.input.CopyFrom(input_pb2.Input(
tf.contrib.util.make_tensor_proto(image.astype(dtype=np.uint8), shape=[1, height, width, 3])
)
)
这给出了错误:
File "TestServices.py", line 102, in make_request
tf.contrib.util.make_tensor_proto(image.astype(dtype=np.uint8), shape=[1,height, width, 3])
TypeError: Parameter to CopyFrom() must be instance of same class:
expected tensorflow.serving.Input got tensorflow.TensorProto.
因此,我的问题是:我需要做什么才能使用 ClassificationRequest 将图像传递给分类器?
解决方案
我不确定这是否符合最佳实践,但这似乎可行。作为一个纯 python 用户,我不得不说这感觉就像是骗人的。我花了一段时间,但我通过查看 protobuf 文件的定义和这个文档找到了答案。
import tensorflow as tf
import numpy as np
from tensorflow_serving.apis import classification_pb2, input_pb2
image = np.random.rand(1, 32,32,3)
def _bytes_feature(value):
return tf.train.Feature(bytes_list=tf.train.BytesList(value=[value]))
request = classification_pb2.ClassificationRequest()
request.model_spec.name = 'model'
request.model_spec.signature_name = 'classification_results'
# Wrap numpy image in an example protobuf
example = tf.train.Example(features=tf.train.Features(feature={'image': _bytes_feature(image.tostring())}))
inp = input_pb2.Input()
inp.example_list.examples.extend([example])
request.input.CopyFrom(inp)
推荐阅读
- python - 使用 opencv+gstreamer 伪影流式传输 h264 视频
- docker-compose - docker-compose.yml services.back.environment.links 包含 ["postgres"],这是一个无效类型,它应该是字符串、数字或 null
- configure - #inlcude 检测到错误。请更新您的 includePath eosio
- vue.js - 将 :class 定义为数组而不是 Vue 中的对象有什么用?
- python - Apache Beam python fileio.MatchFiles 性能
- mysql - 检查与您的 MySQL 服务器版本相对应的手册,以在第 10 行的 ')' 附近使用正确的语法
- sql-server - 从远程客户端执行批量插入失败,但在本地成功
- twitter-bootstrap - 打开引导模式并根据点击事件滚动到特定的div(动态jquery)
- javascript - 如何在 React Native 项目中添加依赖项
- r - xts 对象中月份数据的平均值(1 月至 12 月)