python - 如何在集群上执行 Numpy 函数？

Question

我一直在通过 mpi4py 在 Python 中体验 MPI。并行化我开发的一些代码的效果非常好。但是我严重依赖 Numpy 进行矩阵操作。我对 Numpy 与 MPI 的使用有疑问。

让我们以 Numpy 中的 de dot 函数为例。假设我有 2 个巨大的矩阵 A 和 B，我想计算它们的矩阵乘积 A*B：

numpy.dot(A, B)

我想知道如何将此函数调用传播到整个集群。我可以将 B（按列）分块为更小的矩阵，并将矩阵乘积分布在集群节点上，从而重新组合结果。然而，这似乎是一个糟糕的解决方法。有更好的解决方案吗？

标签： pythonnumpympi