tensorflow - 证据下界损失函数及其在pytorch或tensorflow中的梯度

Question

如何在pytorch中实现证据下界ELBO损失函数及其梯度。我一直在使用KL散度如下：

# KL Divergence loss function
loss       = nn.KLDivLoss(size_average=False, log_target=True)                                    
out        = loss(Gaussian.log_prob(x), Gaussian.log_prob(xtrue))      
gr         = autograd.grad(outputs=[out], inputs=[x])[0]

如何实现 ELBO/渐变？

标签： tensorflowmachine-learningoptimizationpytorchloss-function