首页 > 解决方案 > 在 TF 服务或 TF 图的一部分中查找外部数据库

问题描述

我有一个 tensorflow 模型,我计划使用 tensorflow 服务进行模型推理部署。

只是想知道是否有一种方法可以在服务接收到请求之后和进入 tensorflow 模型之前添加一些自定义逻辑。具体来说,我需要一个来自外部数据库的查找步骤,这将丰富应用程序通过 REST 调用接收的数据。

或者,这可能作为张量流图的一部分吗?

如果可以将它捆绑在服务层中,那么为此创建一个单独的服务听起来有点过头了。

标签: pythontensorflowtensorflow-serving

解决方案


我想说您可以将 TF 服务器包装在类似烧瓶应用程序的东西中,该应用程序接受 REST 请求,应用附加逻辑(数据库查找),并填充并向 TF 服务器发送请求(通过 HTTP 或gRPC)。我认为不可能将其作为“TF 图的一部分”。


推荐阅读