python - Keras predict_on_batch 和 predict 相当慢
问题描述
我正在使用 Keras（和 Keras Retina Net）从照片中提取文本并转录该文本。文本是文档的一部分，我将照片中的 ROI 提取为如下小片段：
提取 ROI 的原因是为了准确。如果我通过预测来运行整张照片，它会非常糟糕地无法产生任何有用的东西。具有 ROI 的方法有效，但速度很慢。
每张照片大约有 50-80 个 ROI，每个需要 0.3 到 1.3 秒，具体取决于 ROI 上有多少文本。有没有办法加快这个过程？
硬件
- 英伟达 RTX 2080 钛
- Intel(R) Core(TM) i5-4440 CPU @ 3.10GHz
- 32GB DDR4 内存
张量流版本
- tensorflow-gpu 1.13.2（通过 bazel 安装）
有谁知道转录字母和数字的另一种方法可以更快地工作吗？