时间戳

首页 > 解决方案 > keras 中 ResNet50 进行迁移学习时，损失总是归于 nan

python - keras 中 ResNet50 进行迁移学习时，损失总是归于 nan

问题描述

我正在使用迁移学习通过ResNet50模型Keras和加载预先训练的权重来训练图像分类器，但是最初和立即loss进入并保持在随机水平。nanacc

实际上，我不知道出了什么问题，因为我已经使用这个模型成功地训练了一个分类器，虽然它不高acc但效果很好。这次失败了。

我调整了lr但什么也没发生。有人说数据可能有问题，所以我更改了数据，结果发现使用不同的图像相同的模型会显示不同的结果（也就是说，一些数据/图像效果很好，而另一些数据/图像会loss:nan立即产生结果）。怎么可能？我真的很困惑，无法弄清楚我的图像有什么问题。

数据集：8 个类，每个类包含大约 300 张图像。

这是所有人的代码：

import keras
import h5py
import numpy as np
import matplotlib.pyplot as plt

from keras.applications import ResNet50
from keras.models import Sequential
from keras.layers import Dense, Flatten, GlobalAveragePooling2D
from keras.applications.resnet50 import preprocess_input
from keras.preprocessing.image import ImageDataGenerator


data_generator = ImageDataGenerator(preprocessing_function= preprocess_input, 
                        rescale = 1./255)

train_generator = data_generator.flow_from_directory("image/train", 
                        target_size = (100, 100), 
                        batch_size = 32, 
                        class_mode = "categorical")
dev_generator = data_generator.flow_from_directory("image/dev", 
                        target_size = (100, 100), 
                        batch_size = 32, 
                        class_mode = "categorical")

num_classes = 8
model = Sequential()
model.add(ResNet50(include_top = False, pooling = "avg", weights= "resnet50_weights_tf_dim_ordering_tf_kernels_notop.h5"))
model.add(Dense(num_classes, activation = "softmax"))
model.layers[0].trainable = False

model.compile(optimizer= "adam", loss= "categorical_crossentropy", metrics=["accuracy"])

model.fit_generator(train_generator, steps_per_epoch= 1, epochs = 1)

运行输出为：

Epoch 1/1
1/1 [==============================] - 6s 6s/step - loss: nan - acc: 0.0938

标签： pythontensorflowneural-networkkerasgenerator

解决方案

推荐阅读