tensorflow-federated - 如何加载 ServerState.optimizer_state 以继续在 Tensorflow Federated 中进行训练

Question

TFF 是否有任何方法来保存和加载类似于模型权重的优化器状态。对于模型权重ModelWeights.assign_weights_to()和tff.learning.state_with_new_model_weights()功能，有没有办法保存和加载优化器状态，​​尤其是在使用 SGD 以外的服务器端优化器时。

我找不到任何东西来保存和加载优化器的状态。

标签： tensorflow-federated

Answer 1

借鉴 Keith 的回答：检查点管理器在 Google 的联合研究存储库中不再可用。它已被上传到 TFF（在 GitHub 上查看）。

您可以通过tensorflow-federated-nightlypip 包访问它，也可以通过克隆存储库来访问它。

该代码本质上委托给tf.saved_model.save，因此您也可以简单地使用它。