python - 如何在 Keras Python 中合并多个顺序模型?
问题描述
我正在构建一个具有多个顺序模型的模型,在训练数据集之前我需要合并这些模型。Keras 2.0似乎keras.engine.topology.Merge
不再支持它。我试过了keras.layers.Add
,keras.layers.Concatenate
它也不起作用。
这是我的代码:
model = Sequential()
model1 = Sequential()
model1.add(Embedding(len(word_index) + 1, 300, weights = [embedding_matrix], input_length = 40, trainable = False))
model1.add(TimeDistributed(Dense(300, activation = 'relu')))
model1.add(Lambda(lambda x: K.sum(x, axis = 1), output_shape = (300, )))
model2 = Sequential()
###Same as model1###
model3 = Sequential()
model3.add(Embedding(len(word_index) + 1, 300, weights = [embedding_matrix], input_length = 40, trainable = False))
model3.add(Convolution1D(nb_filter = nb_filter, filter_length = filter_length, border_mode = 'valid', activation = 'relu', subsample_length = 1))
model3.add(GlobalMaxPooling1D())
model3.add(Dropout(0.2))
model3.add(Dense(300))
model3.add(Dropout(0.2))
model3.add(BatchNormalization())
model4 = Sequential()
###Same as model3###
model5 = Sequential()
model5.add(Embedding(len(word_index) + 1, 300, input_length = 40, dropout = 0.2))
model5.add(LSTM(300, dropout_W = 0.2, dropout_U = 0.2))
model6 = Sequential()
###Same as model5###
merged_model = Sequential()
merged_model.add(Merge([model1, model2, model3, model4, model5, model6], mode = 'concat'))
merged_model.add(BatchNormalization())
merged_model.add(Dense(300))
merged_model.add(PReLU())
merged_model.add(Dropout(0.2))
merged_model.add(Dense(1))
merged_model.add(BatchNormalization())
merged_model.add(Activation('sigmoid'))
merged_model.compile(loss = 'binary_crossentropy', optimizer = 'adam', metrics = ['accuracy'])
checkpoint = ModelCheckpoint('weights.h5', monitor = 'val_acc', save_best_only = True, verbose = 2)
merged_model.fit([x1, x2, x1, x2, x1, x2], y = y, batch_size = 384, nb_epoch = 200, verbose = 1, validation_split = 0.1, shuffle = True, callbacks = [checkpoint])
错误:
name 'Merge' is not defined
使用keras.layers.Add
和keras.layers.Concatenate
说不能用顺序模型做到这一点。
它的解决方法是什么?
解决方案
如果我是你,我会在这种情况下使用Keras 函数式 API,至少用于制作最终模型(即merged_model
)。它为您提供了更大的灵活性,让您轻松定义复杂的模型:
from keras.models import Model
from keras.layers import concatenate
merged_layers = concatenate([model1.output, model2.output, model3.output,
model4.output, model5.output, model6.output])
x = BatchNormalization()(merged_layers)
x = Dense(300)(x)
x = PReLU()(x)
x = Dropout(0.2)(x)
x = Dense(1)(x)
x = BatchNormalization()(x)
out = Activation('sigmoid')(x)
merged_model = Model([model1.input, model2.input, model3.input,
model4.input, model5.input, model6.input], [out])
merged_model.compile(loss = 'binary_crossentropy', optimizer = 'adam', metrics = ['accuracy'])
您也可以对您定义的其他模型执行相同的操作。正如我所提到的,函数式 API 可以让您更好地控制模型的结构,因此建议在创建这样的复杂模型时使用。
推荐阅读
- node.js - 我应该使用 Node v6.11.2 和 npm3.10.10 安装哪个 yeoman 版本
- android - 从 recyclerView 和 sqliteDb 中通过滑动删除项目
- r - 从矩阵中提取满足条件的行
- android - 如何管理来自 ACTION_MOVE 事件的 onTouchListener 返回值,就像我想在调用 ACTION_MOVE 事件时更改(真或假)返回值
- tsql - TSQL 将行更改为合并列
- jquery - jQuery中全局对象和局部对象的比较
- c - 尝试扩展 golang pigpio 包装函数 gpioWaveAddGeneric
- xml - 如何使用 XSLT 获得所有可能的节点组合?
- kubernetes - Kubernetes 在服务/部署级别检查 readinessProbe
- node.js - MongoDB $查找具有不同值的对象数组