python - 在 Numpy 中应用不带 for 循环的非平凡矩阵计算
问题描述
简单地尝试为 EM 算法找到计算此更新协方差矩阵的最佳方法 *
我已经开发了算法,但是使用了 for 循环。我正在尝试确定如何利用 Numpy 矢量化。
cov_c = []
for cluster, u, w in zip(r.T, mu_c, total_weight):
s = 0
for n in range(len(d)):
s += cluster[n]*np.outer(d[n] - u, d[n] - u)
cov_c.append(s / w)
cov_c 是一个包含两个元素的列表,每个列表都有一个协方差矩阵 (2x2)
[array([[0.19, 0.23],[0.23, 0.39]]),
array([[4.05, -5.01,[-5.018, 6.22]])]
d 和 r 都是二维数组(加权样本) d 是特征向量(100 个样本的 2 个特征),其中 r 是 2 个高斯的每个特征的权重
d.shape
(100, 2)
r.shape
(100, 2)
mu_c 是平均向量的两个元素列表
mu_c
[array([ 0.24387682, -0.27793324]), array([ 2.37853451, -1.86454301])]
总重量是一个归一化因子(简单的 2 元素一维数组):
total_weight
array([53.51779102, 46.48220898])
关于如何向量化这个计算的任何建议?谢谢!
解决方案
我们可以利用 NumPy 数组来利用向量化的 ufunc 操作。此外,由于 中的列数d
只是2
,我们将简单地沿该轴使用一个循环(因此一个只有两次迭代的循环)。因此,我们将使用切片数据而不是在所有方向上扩展数组,这会导致更严重的内存拥塞。我们仍然会利用broadcasting
切片数据。最后,我们将使用np.einsum
替换外部 sum-reductions,这可能是我们获得最多的地方。
我们最终会得到这样的东西 -
mu_c = np.asarray(mu_c)
total_weight = np.asarray(total_weight)
n = d.shape[1]
out = np.empty((n,2,2))
for i in range(n):
du = d-mu_c[i]
out[i] = np.einsum('i,ij,ik->jk',r[:,i],du,du)
cov_c_out = out/total_weight[:,None,None]
或者,该einsum
部分可以用矩阵乘法步骤代替 -
out[i] = (r[:,i,None]*du).T.dot(du)
为了完整或只是为了好玩,这就是一个完全矢量化的解决方案的样子,这是内存密集型的,因此很可能更慢 -
dmuc = d[:,None,:]-mu_c
out = np.einsum('ij,ijk,ijl->jkl',r,dmuc,dmuc)
此外,通过将其设置为使用 BLAS 来玩弄optimize
标志。np.einsum
True