pandas - 具有大数据框的 PCA 图
问题描述
我有一个包含以下列的大型数据框(约 1400 行):
protein IHD CM ARR VD CHD CCD VOO
0 q9uku9 0.000000 0.039457 0.032901 0.014793 0.006614 0.006591 0.000000
1 o75461 0.000000 0.005832 0.027698 0.000000 0.000000 0.006634 0.000000
等等
我想使用向量执行 PCA 分析和绘图,但我不确定如何处理如此庞大的数据集。有没有人有什么建议?
解决方案
实际上,现代计算机上 1400 x 8 的数据帧并没有那么大。您可以使用scikit-learn对数据集执行 PCA。比较简单:
import pandas as pd
import numpy as np
from sklearn.decomposition import PCA
cols = ['IHD', 'CM', 'ARR', 'VD', 'CHD', 'CCD', 'VOO']
df = pd.DataFrame(np.random.random((1400, 7)), columns = cols)
pca = PCA(n_components=2)
pca.fit(df)
print(pca.components_)
print(pca.explained_variance_)
# [[-0.38406974 0.02775874 -0.59754361 -0.55464116 -0.03878488
# -0.41944628 0.09795539]
# [-0.03181143 -0.52699813 0.14325425 0.02742668 -0.48571934
# -0.33915335 0.590795 ]]
# [0.0913989 0.08975106]
您无法绘制主成分,因为它们存在于 7 维空间中。只要保持组件的数量少于三个,您可以做的是绘制结果数据集:
df2 = pd.DataFrame(pca.transform(df), columns = ['first', 'second'])
df2.plot.scatter(x = 'first', y = 'second')
如您所见,我在进行 PCA 时没有考虑柱蛋白。原因是 PCA 仅适用于数值列。有关处理分类列的一些提示,请参阅此讨论。
推荐阅读
- android - android firebase dynamic link is only working if app is installed earlier why?
- jestjs - 新的玩笑用户对在打字稿中模拟节点模块的正确方法感到困惑
- c# - unity C# 跳跃协程创建浮动跳跃
- java - QueryParameterException even if everything seems to be named properly
- list - How to apply flatMap to list of tuples (Int,String) in Scala?
- android - Android 9 上的 React Native 网络失败
- sql - 按 (city,sku) 分组选择两列,但仅按 (city) 显示前 5 个寄存器
- pytorch - Masking and computing loss for a padded batch sent through an RNN with a linear output layer in pytorch
- wpf - WPF DelegateCommand 如何控制何时调用 CanExecute 方法
- ruby - 如何使用计数器方法打印返回的只有英文的推文数量?