tensorflow - 通过 API 对 Keras 模型进行在线预测

Question

我有一个使用 Keras 和 Tensorflow 2 训练的图像分类深度学习 CNN 模型（.h5 文件），我想在线使用它进行预测。我想要一个 API，它通过 HTTP 获取单个输入图像，并使用经过训练的模型以预测的类标签进行响应。Keras 或 Tensorflow 是否提供了 API 来做同样的事情？

标签： tensorflowkerasconv-neural-networkprediction

Answer 1

有两个基本选项：

• 使用TensorFlow Serving - 它提供了现成的 REST API 服务器，您唯一需要做的就是将模型转换为 .pb 格式。

• 编写您自己的简单 REST 服务器（例如在 Flask 上），它将调用model.predict()输入（这种方法可能更容易开始，但很难针对重负载进行扩展/优化。