tensorflow - 停止训练并更改一些参数后如何进行训练？

Question

我正在通过 Keras 中的 model.fit() 训练我的模型。我停止了训练，通过打断它，甚至因为它已经完成，然后改变了 batch_size 并决定进行更多的训练。这是正在发生的事情：

训练停止/完成时的损失 = 26

训练进行时的损失 = 46

这意味着我失去了所有取得的进步，就好像我要重新开始一样。只有当我不改变任何东西时，它才会从它离开的地方开始。但是，如果我更改了批量大小，就好像优化器重新初始化了我的权重并丢弃了我的进度。未经我同意，我如何才能掌握优化器正在做什么？

标签： tensorflowkerasdeep-learning

Answer 1

您很可能有一些示例可以为您提供较大的损失值。MSE 使情况变得更糟。当批次大小较大时，您的批次中可能会出现很多这些异常值。您可以查看造成最大损失的示例。