时间戳

首页 > 解决方案 > Tensorflow Lite 基准测试应用说明

tensorflow - Tensorflow Lite 基准测试应用说明

问题描述

我正在使用Tensorflow Lite Benchmark Android 应用程序在 Android 设备上测试我的模型。输出示例如下：

我们的平均推理时间：预热：83235，初始化：38467，推理：79760.9

虽然含义Inference对我来说很清楚（即平均推理时间（以微秒为单位）），但我不知道指的是什么Warmup？Init不幸的是，文档没有解释这一点。

标签： tensorflowbenchmarkingtensorflow-lite

解决方案

Init：加载模型和构建解释器对象所花费的时间，这是一开始就需要发生的初始化步骤（即一次性成本）

预热：根据warmup_runs配置，预热运行开始时所花费的平均推理时间。换句话说，第一个warmup_runs推理结果被平均到Warmup输出中的结果中，并且只有随后num_runs的推理次数被平均到Inference输出中。

查看基准测试工具 README 了解更多详细信息。 https://github.com/tensorflow/tensorflow/blob/master/tensorflow/lite/tools/benchmark/README.md#parameters

推荐阅读