hardware-acceleration - 如何使用 TFLite 和 Edge TPU 指定特定数据流进行推理？

Question

我有一个 TFLite 模型部署到 Raspberry Pi。我正在使用 Coral USB 加速器来加速推理，其中包含一个 Edge TPU。我有兴趣尝试使用不同的数据流对该部署的能源效率的影响。

有谁知道在使用 Edge TPU 加速 TFLite 模型时如何指定特定的数据流，例如行固定或输出固定？

供参考：https ://people.csail.mit.edu/emer/papers/2017.05.ieee_micro.dnn_dataflow.pdf

标签： hardware-accelerationtensorflow-litegoogle-coral

Answer 1

根据珊瑚支持团队的说法：

“据我们所知，没有一种特定的方法可以使用特定的数据流来运行模型。

建议访问https://coral.ai/docs/edgetpu/models-intro/的模型兼容性页面，了解 TFLite 模型如何映射到 EdgeTPU。”