tensorflow - 如何在分布式 Tensorflow 中为每个工作人员创建局部变量？

Question

现在我正在尝试使用 Estimator 创建一个局部变量，如下所示：

local_step = tf.get_variable(name='local_step', initializer=tf.constant(0), trainable=False)

并希望优化器在 tf.estimator.ModeKeys.TRAIN 模式下每次更新后都能加 1。但我发现所有工作人员都将共享相同的 local_step 并更新其值（就像 global_step 变量一样）。是否可以在每个工人上创建一个局部变量？例如，worker 0 上的 local_step_0 和 worker 1 上的 local_step_1，则本地变量将用作其自己的 worker 的计步器。

标签： tensorflow