machine-learning - 通过在 m 行的数据集上应用一次 PCA 与 IncrementalPCA 对 x 批大小为 m/x 的潜在加速？

Question

我一直在努力尝试对高维、大容量数据集（有很多行和列 - 大约 100,000 - 1M 行和 ~500 列）执行降维。

虽然我的数据集的大小（m 是行数，n 是列数）不会阻止应用 PCA，但 PCA 可能需要相当多的时间来训练和转换数据。

我想知道是否将数据集分成 x 个批次（每个批次大小相等 m/x 行），然后将 IncrementalPCA() 部分拟合到每个 x 批次中，是否比尝试拟合传统 PCA 更快（ ) 针对大小为 m 行的整个数据集？

我相信 PCA 的运行时间是 O(m * n ² ) + O(n ³ )，因此在这种情况下，IncrementalPCA 只需将内部因子除以 m/x 并将外部的两项乘以 x，因此会导致更高的总体时间复杂度和更慢的性能，总体 x * O(m/x * n ² ) + x * O(n ³ ) = O(m * n ² ) + x * O(n ³ )。所以，天真地似乎这个想法行不通。

但是，有人可以提供更多分析，说明使用带有 IncrementalPCA 的小批量进行这种加速是否仍然可行？我怀疑我的推理可能不完整。

我一直在尝试的另一种方法是随机分层抽样，这似乎更标准，但我正在尝试结合各种优化来实现更快的运行时间。

标签： machine-learningscikit-learndata-sciencepcadimensionality-reduction