tensorflow - tensorflow 打印的损失是批量/样本损失还是运行平均损失？

Question

当我训练一个 tensorflow 模型时，它通常会在每次迭代时打印类似于以下行的信息

INFO:tensorflow:loss = 1.9433185, step = 11 (0.300 sec)

打印的损失是模型当前看到的批次的损失，还是之前所有训练批次的运行平均损失？

如果我使用 1 的批量大小，即每批中只有一个训练样本，那么打印的损失将分别是每个样本的损失，这将是运行平均损失吗？

标签： tensorflowmachine-learningkerasloss-function

Answer 1

Keras/TensorFlow 进度条中报告的损失始终是迄今为止看到的批次的运行平均值，而不是每批次的值。

我认为没有办法在训练期间查看每批次的值。