首页 > 解决方案 > TensorFlow Serving 是否允许插件(动态链接的用户扩展)?

问题描述

我希望能够编写一个动态插件 (*.so),它允许服务器使用来自亚马逊队列的数据。工作数据以根据已经教授的模型进行预测。

我已阅读有关服务器扩展点的手册 https://github.com/tensorflow/serving/blob/master/tensorflow_serving/g3doc/architecture.md

它说允许拥有自定义源,包括云源。问题是,我无法为初学者找到一个好的完整示例(就像我一样),帮助很小,而且(如果我理解正确的话),这些自定义模块应该在服务器代码中静态链接(其中是,由于一些我无法控制的严重原因,是不可接受的)。

标签: tensorflow-serving

解决方案


推荐阅读