首页 > 解决方案 > Tensorflow Serving:需要向仅接受 gRPC 请求的 TF Server 发出 HTTP 请求

问题描述

我的客户端在服务器上,我只能向任何服务器发出 HTTP 请求。Tensorflow 托管在 AWS 机器上,它只接受 gRPC 请求。寻找一些线索来实现这种沟通?

编辑:2018 年 6 月 12 日

TF 正式发布用于服务的 REST API

https://www.tensorflow.org/serving/api_rest

他们使用这个特殊的例子:half_plus_three

服务器:

$ tensorflow_model_server --rest_api_port=8501 \ --model_name=half_plus_three \ --model_base_path=$(pwd)/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_three/

客户:

$ curl -d '{"instances": [1.0,2.0,5.0]}' -X POST http://localhost:8501/v1/models/half_plus_three:predict { "predictions": [3.5, 4.0, 5.5] }

标签: httptensorflowdeep-learninggrpctensorflow-serving

解决方案


您的服务器正在运行哪种语言/平台?

OTOH,TF 现在正在添加 REST 支持。


推荐阅读