python - 无监督人口分类

Question

我有一个包含 2 个参数的数据集，如下所示（我添加了密度等高线图）：

我的目标是将这个样本分成 2 个子集，如下所示：

这张图片来自QUENCHING OF STAR FORMATION IN SDSS GROUPS:CENTRALS, SATELLITES, AND GALACTIC CONFORMITY, Knobel et. al.，The Astrophysical Journal，800:24 (20pp)，2015 年 2 月 1 日，可在此处获取。分隔线是肉眼绘制的，并不完美。

我需要的是这个漂亮的维基百科图表中的红线（最大化距离）：

不幸的是，所有看起来接近我正在寻找的线性分类（SVM、SVC 等）都是监督学习。

我已经尝试过无监督学习，比如 KMeans 2 集群，这种方式（CompactSFR[['lgm_tot_p50','sSFR']]作为你可以在本文末尾找到的 Pandas 数据集）：

X = CompactSFR[['lgm_tot_p50','sSFR']]
from sklearn.cluster import KMeans

kmeans2 = KMeans(n_clusters=2)
# Fitting the input data
kmeans2 = kmeans2.fit(X)
# Getting the cluster labels
labels2 = kmeans2.predict(X)
# Centroid values
centroids = kmeans2.cluster_centers_
f, (ax1,ax2) = plt.subplots(nrows=1, ncols=2, figsize=(10, 5), sharey=True)
ax1.scatter(CompactSFR['lgm_tot_p50'],CompactSFR['sSFR'],c=labels2);
X2 = kmeans2.transform(X)
ax1.set_title("Kmeans 2 clusters", fontsize=15)
ax1.set_xlabel('$\log_{10}(M)$',fontsize=10) ;
ax1.set_ylabel('sSFR',fontsize=10) ;
f.subplots_adjust(hspace=0)

但我得到的分类是这样的：

这是行不通的。

此外，我想要的不是简单的分类，而是分离线的方程（这显然与线性回归有很大不同）。

如果某些东西已经存在，我想避免开发最大似然的贝叶斯模型。

您可以在此处找到一个小样本（959 分）。

注意：这个问题不符合我的情况。

标签： pythonmachine-learningunsupervised-learning

Answer 1

以下代码将使用 2 个分量的高斯混合模型来执行此操作，并产生此结果。

首先，从文件中读取数据并删除异常值：

import pandas as pd
import numpy as np
from sklearn.neighbors import KernelDensity

frm = pd.read_csv(FILE, index_col=0)
kd = KernelDensity(kernel='gaussian')
kd.fit(frm.values)
density = np.exp(kd.score_samples(frm.values))
filtered = frm.values[density>0.05,:]

然后拟合一个高斯混合模型：

from sklearn.mixture import GaussianMixture
model = GaussianMixture(n_components=2, covariance_type='full')
model.fit(filtered)
cl = model.predict(filtered)

要获得情节：

import matplotlib.pyplot as plt
plt.scatter(filtered[cl==0,0], filtered[cl==0,1], color='Blue')
plt.scatter(filtered[cl==1,0], filtered[cl==1,1], color='Red')