时间戳

首页 > 解决方案 > Keras 中连接多输入深度神经网络的正确最后一层是什么？

python - Keras 中连接多输入深度神经网络的正确最后一层是什么？

问题描述

我正在尝试使用 Keras 为具有 3 个可能输出的多类分类问题实现多输入模型，但我不明白将任何层保留为最后一层是否正确，或者它是否应该尊重数量的限制班级。
那么下面这两个之间的正确（如果可以定义一个正确的）架构是什么？

1)

def createModel(numData, boolData, ordData):
    numIn = ks.Input(shape=numData.shape[1:3], name='numeric')
    x = ks.layers.Masking(mask_value=np.float64(0), input_shape=numData.shape[1:3])(numIn)
    mod1 = ks.layers.LSTM(128, return_sequences=True)(x)
    mod1 = ks.layers.LSTM(128)(mod1)
    model1 = ks.Model(numIn, mod1)

    boolIn = ks.Input(shape=boolData.shape[1], name='boolean')
    mod2 = ks.layers.Dense(128, activation='relu')(boolIn)
    mod2 = ks.layers.Dense(128, activation='relu')(mod2)
    model2 = ks.Model(boolIn, mod2)

    ordIn = ks.Input(shape=ordData.shape[1], name='ordinal')
    mod3 = ks.layers.Dense(128, activation='relu')(ordIn)
    mod3 = ks.layers.Dense(128, activation='relu')(mod3)
    model3 = ks.Model(ordIn, mod3)

    finMod = ks.layers.concatenate([model1.output, model2.output, model3.output])

    out = ks.layers.Dense(3, activation='softmax', name='out')(finMod)
    model = ks.Model(inputs=[model1.input, model2.input, model3.input], outputs=[out])
    return model

    def createModel(numData, boolData, ordData):
        numIn = ks.Input(shape=numData.shape[1:3], name='numeric')
        x = ks.layers.Masking(mask_value=np.float64(0), input_shape=numData.shape[1:3])(numIn)
        mod1 = ks.layers.LSTM(128, return_sequences=True)(x)
        mod1 = ks.layers.LSTM(128)(mod1)
        mod1 = ks.layers.Dense(3, activation='softmax')(mod1) #added layer
        model1 = ks.Model(numIn, mod1)

        boolIn = ks.Input(shape=boolData.shape[1], name='boolean')
        mod2 = ks.layers.Dense(128, activation='relu')(boolIn)
        mod2 = ks.layers.Dense(128, activation='relu')(mod2)
        mod2 = ks.layers.Dense(3, activation='softmax')(mod2) #added layer
        model2 = ks.Model(boolIn, mod2)

        ordIn = ks.Input(shape=ordData.shape[1], name='ordinal')
        mod3 = ks.layers.Dense(128, activation='relu')(ordIn)
        mod3 = ks.layers.Dense(128, activation='relu')(mod3)
        mod3 = ks.layers.Dense(3, activation='softmax')(mod3) #added layer
        model3 = ks.Model(ordIn, mod3)

        finMod = ks.layers.concatenate([model1.output, model2.output, model3.output])

        out = ks.layers.Dense(3, activation='softmax', name='out')(finMod)
        model = ks.Model(inputs=[model1.input, model2.input, model3.input], outputs=[out])
        return model

显然，如果还有其他大错误，请告诉我，因为我仍在学习 Keras 和深度学习，我可能误解了一些基础知识。

标签： pythonkerasdeep-learningneural-networkclassification

解决方案

中间层不必输出 3 个类别（如模型 #2 中所示）。在这种情况下没有“正确的方式”，它只是两种不同的方式。

在模型#2 的情况下，添加的层将每个通道的信息压缩为 3 个单元。可以将其解释为好像每个通道都被要求进行自己的预测，而最后一个通道依赖于中间预测来输出最终类别。

而在模型 #1 的情况下，最后一层与通道层的连接要多得多，但整个模型的深度却不那么深。

但是这些都不能提前告诉你哪一个最适合你的情况。

推荐阅读