tensorflow - 经过一段时间的训练,训练损失值在增加,但模型检测到的对象很好
问题描述
我在训练 CNN 从我自己的数据集中检测对象时遇到了一个奇怪的问题。我正在使用迁移学习,并且在训练开始时,损失值正在减少(如预期的那样)。但一段时间后,它变得越来越高,我不知道为什么会这样。
同时,当我查看 Tensorboard 上的图像选项卡以检查 CNN 预测对象的效果时,我可以看到它做得非常好,看起来并没有随着时间的推移变得更糟。此外,Precision 和 Recall 图表看起来不错,只有 Loss 图表(尤其是分类损失)显示出随时间增加的趋势。
以下是一些具体细节:
- 我有 10 种不同类别的徽标(例如 DHL、BMW、FedEx 等)
- 每班大约 600 张图片
- 我在 Ubuntu 18.04 上使用 tensorflow-gpu
我尝试了多个预训练模型,最新的是使用此配置管道的faster_rcnn_resnet101_coco :
model { faster_rcnn { num_classes: 10 image_resizer { keep_aspect_ratio_resizer { min_dimension: 600 max_dimension: 1024 } } feature_extractor { type: 'faster_rcnn_resnet101' first_stage_features_stride: 16 } first_stage_anchor_generator { grid_anchor_generator { scales: [0.25, 0.5, 1.0, 2.0] aspect_ratios: [0.5, 1.0, 2.0] height_stride: 16 width_stride: 16 } } first_stage_box_predictor_conv_hyperparams { op: CONV regularizer { l2_regularizer { weight: 0.0 } } initializer { truncated_normal_initializer { stddev: 0.01 } } } first_stage_nms_score_threshold: 0.0 first_stage_nms_iou_threshold: 0.7 first_stage_max_proposals: 300 first_stage_localization_loss_weight: 2.0 first_stage_objectness_loss_weight: 1.0 initial_crop_size: 14 maxpool_kernel_size: 2 maxpool_stride: 2 second_stage_box_predictor { mask_rcnn_box_predictor { use_dropout: false dropout_keep_probability: 1.0 fc_hyperparams { op: FC regularizer { l2_regularizer { weight: 0.0 } } initializer { variance_scaling_initializer { factor: 1.0 uniform: true mode: FAN_AVG } } } } } second_stage_post_processing { batch_non_max_suppression { score_threshold: 0.0 iou_threshold: 0.6 max_detections_per_class: 100 max_total_detections: 300 } score_converter: SOFTMAX } second_stage_localization_loss_weight: 2.0 second_stage_classification_loss_weight: 1.0 } } train_config: { batch_size: 1 optimizer { momentum_optimizer: { learning_rate: { manual_step_learning_rate { initial_learning_rate: 0.0003 schedule { step: 900000 learning_rate: .00003 } schedule { step: 1200000 learning_rate: .000003 } } } momentum_optimizer_value: 0.9 } use_moving_average: false } gradient_clipping_by_norm: 10.0 fine_tune_checkpoint: "/home/franciszek/Pobrane/models-master/research/object_detection/logo_detection/models2/faster_rcnn_resnet101_coco/model.ckpt" from_detection_checkpoint: true data_augmentation_options { random_horizontal_flip { } } } train_input_reader: { tf_record_input_reader { input_path: "/home/franciszek/Pobrane/models-master/research/object_detection/logo_detection/data2/train.record" } label_map_path: "/home/franciszek/Pobrane/models-master/research/object_detection/logo_detection/data2/label_map.pbtxt" } eval_config: { num_examples: 8000 # Note: The below line limits the evaluation process to 10 evaluations. # Remove the below line to evaluate indefinitely. max_evals: 10 } eval_input_reader: { tf_record_input_reader { input_path: "/home/franciszek/Pobrane/models-master/research/object_detection/logo_detection/data2/test.record" } label_map_path: "/home/franciszek/Pobrane/models-master/research/object_detection/logo_detection/data2/label_map.pbtxt" shuffle: false num_readers: 1 }
在这里,您可以看到我在训练近 23 小时并达到超过 120k 步后得到的结果:
所以,我的问题是,为什么损失值会随着时间的推移而增加?它应该会变小或保持或多或少不变,但您可以在上面的图表中清楚地看到增加的趋势。我认为一切都已正确配置,我的数据集也相当不错(.tfrecord 文件也正确“构建”)。
为了检查这是否是我的错,我尝试使用其他人的数据集和配置文件。所以我使用了racoon 数据集作者的文件(他在他的 repo中提供了所有必要的文件)。我刚刚下载了它们并开始训练,没有进行任何修改,以检查我是否会得到与他相似的结果。
令人惊讶的是,经过 82k 步后,我得到的图表与链接文章中显示的完全不同(这是在 22k 步后捕获的)。在这里您可以看到我们的结果的比较:
显然,在我的 PC 上有些东西的工作方式有所不同。我怀疑这可能与我在自己的数据集上的损失越来越大的原因相同,这就是我提到它的原因。
解决方案
是这totalLoss
四个其他损失的加权和。(RPN cla 和 reg 损失,BoxCla cla 和 reg 损失),它们都是评估损失。在张量板上,您可以选中或取消选中以查看仅用于训练或仅用于评估的评估结果。(例如下图有火车总结和评价总结)
如果评估损失增加,这可能表明模型过拟合,此外,精度指标略有下降。
为了尝试更好的微调结果,您可以尝试调整四个损失的权重,例如,您可以增加权重,BoxClassifierLoss/classification_loss
让模型更好地关注这个指标。在您的配置文件中, 和 的损失权重second_stage_classification_loss_weight
均为first_stage_objectness_loss_weight
1,而其他两个均为 2,因此该模型目前更关注其他两个。
关于为什么loss_1
和loss_2
相同的额外问题。这可以通过查看张量流图来解释。
这loss_2
是 , 的摘要total_loss
(注意这个 total_loss 与 totalLoss 不同),红圈节点是 tf.identity 节点。该节点将输出与输入相同的张量,因此loss_1
与loss_2
推荐阅读
- pandas - 有没有办法将标准文本文件转换为 csv 文件
- sql - 如何将一个表中的多个外键引用到 ms sql 中的单个主键
- javascript - 在Angular中对对象进行字符串化时“将循环结构转换为JSON”
- 3d - 导出所有网格
- ios - 如何在 ios 上运行 ionic cordova live-reload
- reactjs - 如何在反应中替换 Glyphicon 标签
- android - Android警报管理器不工作,而应用程序被最近的应用程序杀死
- r - 如何使用 R 生成像数据透视表一样的输出
- laravel - 上传图片 Laravel
- excel - 如何在类模块中为 TextBox 使用 After_Update?