tensorflow - tf.multinomial 输出数字范围以外的数字

Question

我正在使用 OpenAI 健身房环境（使用策略梯度）。我的网络正在输出高于可能动作范围的动作。

n_outputs = 9
learning_rate = 0.01

initializer = tf.variance_scaling_initializer()

X = tf.placeholder(tf.float32, shape=[None, 50, 70, 1])
network = tflearn.conv_2d(X, 32, 5, strides=2, activation='relu')
network = tflearn.max_pool_2d(network, 2)
network = tflearn.conv_2d(network, 32, 5, strides=2, activation='relu')
network = tflearn.max_pool_2d(network, 2)
network = tflearn.fully_connected(network, 256, activation='relu')
hidden = tf.layers.dense(network, 64, activation=tf.nn.relu, kernel_initializer=initializer)
logits = tf.layers.dense(hidden, n_outputs)
outputs = tf.nn.softmax(logits)
action = tf.multinomial(outputs, num_samples=1)

它输出 9，这会在健身房环境中产生错误。

完整的代码。

标签： tensorflowdeep-learningreinforcement-learningtflearnopenai-gym

Answer 1

如果 tf.multinomial 遇到数值错误，它将在范围之外进行采样，换句话说 - 你的图中有 NaN。