python - 使用 AdamOptimizer 继续训练自定义 tf.Estimator
问题描述
我创建了一个自定义 tf.Estimator,我正在使用 tf.train.AdamOptimizer 训练其权重。当我继续训练现有模型时,我观察到在 Tensorboard 中继续训练开始时指标的急剧变化。几个步骤后,指标趋于稳定。该行为看起来类似于训练模型时的初始瞬态。如果我继续在同一个 Estimator 实例上进行训练,或者如果我从检查点重新创建估计器,则行为是相同的。我怀疑重新开始训练时移动平均值和/或偏差校正因子被重置。模型权重本身似乎得到了适当的恢复,因为指标确实从它们之前稳定的地方继续,只有有效学习率似乎太高了。
以前的 Stack-Overflow 答案似乎表明这些辅助学习参数应该与检查点一起存储模型权重。那么我在这里做错了什么?如何控制这些辅助变量的恢复?我希望能够继续训练,就好像它从未停止过一样。然而,其他人有时似乎在寻找相反的控制,在不重置模型权重的情况下完全重置优化器。显示如何实现这两种效果的答案可能最有帮助。
这是我的草图model_fn
:
def model_fn(features, labels, mode, params):
inputs = features['inputs']
logits = create_model(inputs, training=mode == tf.estimator.ModeKeys.TRAIN)
if mode == tf.estimator.ModeKeys.PREDICT:
...
if mode == tf.estimator.ModeKeys.TRAIN:
outputs = labels['outputs']
loss = tf.losses.softmax_cross_entropy(
tf.one_hot(outputs,tf.shape(inputs)[-1]),
logits,
# reduction=tf.losses.Reduction.MEAN,
)
optimizer = tf.train.AdamOptimizer(learning_rate=params.learning_rate)
update_ops = tf.get_collection(tf.GraphKeys.UPDATE_OPS)
with tf.control_dependencies(update_ops):
train_op = optimizer.minimize(loss, tf.train.get_or_create_global_step())
accuracy = tf.metrics.accuracy(
labels = outputs,
predictions = tf.argmax(logits, axis=-1),
)
tf.summary.histogram('logits',logits)
tf.summary.scalar('accuracy', accuracy[1])
tf.summary.scalar('loss', loss)
return tf.estimator.EstimatorSpec(
mode=tf.estimator.ModeKeys.TRAIN,
loss=loss,
train_op=train_op)
if mode == tf.estimator.ModeKeys.EVAL:
...
raise ValueError(mode)
训练步骤调用如下:
cfg = tf.estimator.RunConfig(
save_checkpoints_secs = 5*60, # Save checkpoints every 1 minutes.
keep_checkpoint_max = 10, # Retain the 10 most recent checkpoints.
save_summary_steps = 10,
log_step_count_steps = 100,
)
estimator = tf.estimator.Estimator(
model_fn = model_fn,
params = dict(
learning_rate = 1e-3,
),
model_dir = model_dir,
config=cfg,
)
# train for the first time
estimator.train(
input_fn=train_input_fn,
)
# ... at some later time, train again
estimator.train(
input_fn=train_input_fn,
)
编辑:
和的warm_start_from
参数的文档并不完全清楚在默认情况下究竟会发生什么,正如我在上面的示例中使用的那样。但是,[ ] ( https://www.tensorflow.org/api_docs/python/tf/train/warm_start ) 的文档似乎表明在默认情况下,所有内容都将被热启动,这tf.estimator.Estimator
tf.estimator.WarmStartSettings
tf.train.warm_start
TRAINABLE_VARIABLES
从批处理规范中排除变量,例如累加器和移动统计信息
确实,我在 中找到了 Adam 的累加器变量VARIABLES
,但在 中没有TRAINABLE_VARIABLES
。这些文档页面还说明了如何将热启动变量列表更改为tf.Variable
实例列表或它们的名称列表。但是,仍然存在一个问题:我如何提前创建这些列表之一,因为有了tf.Estimator
,我没有图表来收集这些变量/它们的名称?
编辑2:
源代码warm_start
突出了一个未记录的特性:变量名列表实际上是一个正则表达式列表,要与 GLOBAL_VARIABLES 匹配。因此,可以使用
warm_start_from=tf.estimator.WarmStartSettings(
ckpt_to_initialize_from=str(model_dir),
# vars_to_warm_start=".*", # everything in TRAINABLE_VARIABLES - excluding optimiser params
vars_to_warm_start=[".*"], # everything in GLOBAL_VARIABLES - including optimiser params
),
加载所有变量。然而,即便如此,汇总统计数据的峰值仍然存在。有了这个,我现在完全不知所措。
解决方案
默认情况下,指标被添加到局部变量和指标变量集合中,默认情况下这些不是检查点。
如果要将它们包含在检查点中,可以将度量变量附加到全局变量集合中:
tf.add_to_collection(tf.GraphKeys.GLOBAL_VARIABLES, tf.get_collection(tf.GraphKeys.METRIC_VARIABLES))
或者,您可以返回Scaffold
带有自定义Saver
集的 a ,将变量传递给 checkpointSaver
的var_list
参数。这默认为全局变量集合。
推荐阅读
- typescript - 如何使用可选属性获取 Typescript 类中的所有属性
- java - 如何在 Spring Boot 应用程序中使用 java 代码在运行时读写 application.yaml?
- php - 致命错误:在 php oop 中调用成员函数 prepare()
- python - 用于将十六进制转换为单精度 IEEE-754 浮点的 Python 程序
- machine-learning - RLlib `rollout.py` 是否适用于评估?
- flutter - 我正在使用 Flutter swiper 包,我想实现以下活动
- javascript - Paypal 按钮事件 onshippingChange 根本不起作用有人能告诉我为什么吗?
- triggers - 单步添加多个账户的 DML 语句
- django - bash linux命令中的django静态错误
- mongodb - openshift中的mongodb操作员部署“无法应用默认图像标签”/:4.2.6“无效参考格式”