首页 > 解决方案 > Tensorflow Keras LSTM 推断一次输入一个

问题描述

我有以下序列标记 Keras 模型:

model = tf.keras.Sequential([
  tf.keras.layers.Dropout(0.5),
  tf.keras.layers.LSTM(64, return_sequences=True),
  tf.keras.layers.Dense(2)
])

该模型采用一系列向量并预测两个类的 logits。

在实时应用程序中,我每秒获取一个向量,并且我想仅对收到的新向量执行推理,以便使用 LSTM 的先前隐藏状态。


例如,如果我只接收向量并运行:

# Received a
model(a)
# Received b
model(b)

该模型对两个向量 (ab) 独立运行,并且不利用 LSTM 在步骤 之后存储在隐藏状态中的时间信息a

有没有办法执行推理和使用这些状态?


不使用时间信息的示例预测代码

model = tf.keras.models.load_model('./.save/3jbry45d')
model.build(input_shape=(None, None, 25))

random_vec = tf.convert_to_tensor(np.random.randn(1, 1, 25))

for i in range(5):
    print(model.predict(random_vec))

打印 5 次:

[[[ 0.11500816 -0.5686636 ]]]

标签: pythontensorflowkeraslstm

解决方案


那么试试这个:

model = tf.keras.Sequential([
  tf.keras.layers.LSTM(64,
                       batch_input_shape = (1, None, 64),
                       return_sequences=True,
                       stateful = True),
  tf.keras.layers.Dense(2)
])
for _ in range(10):
    print(model.predict(np.ones(64)[np.newaxis, np.newaxis])[0, 0])

打印的矢量会有所不同,因此会使用内存。


推荐阅读