一、关于特征选择

主要参考连接为：参考链接，里面有详细的特征选择内容。

介绍

特征选择是特征工程里的一个重要问题，其目标是寻找最优特征子集。特征选择能剔除不相关(irrelevant)或冗余(redundant )的特征，从而达到减少特征个数，提高模型精确度，减少运行时间的目的。另一方面，选取出真正相关的特征简化模型，协助理解数据产生的过程。并且常能听到“数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已”，由此可见其重要性。但是它几乎很少出现于机器学习书本里面的某一章。然而在机器学习方面的成功很大程度上在于如果使用特征工程。

之所以要考虑特征选择，是因为机器学习经常面临过拟合的问题。 过拟合的表现是模型参数太贴合训练集数据，模型在训练集上效果很好而在测试集上表现不好，也就是在高方差。简言之模型的泛化能力差。过拟合的原因是模型对于训练集数据来说太复杂，要解决过拟合问题，一般考虑如下方法：

收集更多数据
通过正则化引入对复杂度的惩罚
选择更少参数的简单模型
对数据降维（降维有两种方式：特征选择和特征抽取）

其中第1条一般是很难做到的，一般主要采用第2和第4点

一般流程

特征选择的一般过程：

生成子集：搜索特征子集，为评价函数提供特征子集
评价函数：评价特征子集的好坏
停止准则：与评价函数相关，一般是阈值，评价函数达到一定标准后就可停止搜索
验证过程：在验证数据集上验证选出来的特征子集的有效性

但是，当特征数量很大的时候，这个搜索空间会很大，如何找最优特征还是需要一些经验结论。

三大类方法

根据特征选择的形式，可分为三大类：

Filter(过滤法)：按照发散性或相关性对各个特征进行评分，设定阈值或者待选择特征的个数进行筛选
Wrapper(包装法)：根据目标函数（往往是预测效果评分），每次选择若干特征，或者排除若干特征
Embedded(嵌入法)：先使用某些机器学习的模型进行训练，得到各个特征的权值系数，根据系数从大到小选择特征（类似于Filter，只不过系数是通过训练得来的）

二、Filter方法

过滤法

基本想法是：分别对每个特征 x_i ，计算 x_i 相对于类别标签 y 的信息量 S(i) ，得到 n 个结果。然后将 n 个 S(i) 按照从大到小排序，输出前 k 个特征。显然，这样复杂度大大降低。那么关键的问题就是使用什么样的方法来度量 S(i) ，我们的目标是选取与 y 关联最密切的一些特征x_i 。

Pearson相关系数
卡方验证
互信息和最大信息系数
距离相关系数
方差选择法

sklearn使用到的内容主要为：

from sklearn.feature_selection import SelectKBest

1、英文源码介绍：

class SelectKBest(score_func=f_classif，k=10):

    """
Select features according to the k highest scores.

Read more in the :ref:`User Guide <univariate_feature_selection>`.

Parameters

----------

score_func : callable

　　Function taking two arrays X and y, and returning a pair of arrays (scores, pvalues) or a single array with scores.

　　Default is f_classif (see below "See also"). The default function only works with classification tasks.

    k : int or "all", optional, default=10

　　Number of top features to select. The "all" option bypasses selection, for use in a parameter search.

Attributes

----------

scores_ : array-like, shape=(n_features,)

Scores of features.

pvalues_ : array-like, shape=(n_features,)

        p-values of feature scores, None if `score_func` returned only scores.
 

Notes

-----

 Ties between features with equal scores will be broken in an unspecified way.

2、参数说明

score_func：callable，函数取两个数组X和y，返回一对数组（scores, pvalues）或一个分数的数组。默认函数为f_classif，计算F分数，默认函数只适用于分类函数。

k：int or "all", optional, default=10。所选择的topK个特征。“all”选项则绕过选择，用于参数搜索。

3、属性说明

scores_ : array-like, shape=(n_features,)，特征的得分
pvalues_ : array-like, shape=(n_features,)，特征得分的p_value值，如果score_func只返回分数，则返回None。

4、方法说明

fit(X,y)，在（X，y）上运行记分函数并得到适当的特征。
fit_transform(X[, y])，拟合数据，然后转换数据。
get_params([deep])，获得此估计器的参数。
get_support([indices])，获取所选特征的掩码或整数索引。
inverse_transform(X)，反向变换操作。
set_params(**params)，设置估计器的参数。
transform(X)，将X还原为所选特征

Pearson相关系数

皮尔森相关系数是一种最简单的，能帮助理解特征和响应变量之间关系的方法，衡量的是变量之间的线性相关性，结果的取值区间为[-1,1] ， -1 表示完全的负相关(这个变量下降，那个就会上升)， +1 表示完全的正相关， 0 表示没有线性相关性。Pearson Correlation速度快、易于计算，经常在拿到数据(经过清洗和特征提取之后的)之后第一时间就执行。Scipy的pearsonr方法能够同时计算相关系数和p-value。

方法一：

pandas中，df.corr()可以直接计算相关系数

方法二：

import numpy as np
from scipy.stats import pearsonr

np.random.seed(0)
size = 300
x = np.random.normal(0, 1, size)
print("Lower noise：", pearsonr(x, x + np.random.normal(0, 1, size)))
print("Higher noise：", pearsonr(x, x + np.random.normal(0, 10, size)))

from sklearn.feature_selection import SelectKBest
from sklearn import  datasets

iris=datasets.load_iris()

model=SelectKBest(lambda X,Y:np.array(list(map(lambda x:pearsonr(x,Y),X.T))).T[0],k=2)  #构建相关系数模型
model.fit_transform(iris.data, iris.target) #对模型将数据传入
print('相关系数：',model.scores_)    #返回所有变量X与Y的相关系数值
print('P值：',model.pvalues_)   #返回所有变量X的P值
print('所选变量的数值为：\n',model.fit_transform(iris.data, iris.target))  #打印传入数据的话会返回k=2所选择的两个变量的数据的值

卡方验证

经典的卡方检验是检验定性自变量对定性因变量的相关性。假设自变量有N种取值，因变量有M种取值，考虑自变量等于i且因变量等于j的样本频数的观察值与期望的差距，构建统计量：

这个统计量的含义简而言之就是自变量对因变量的相关性。用feature_selection库的SelectKBest类结合卡方检验来选择特征的代码如下：

import numpy as npfrom sklearn.feature_selection import SelectKBest
from sklearn.feature_selection import chi2
from sklearn import  datasets

iris=datasets.load_iris()

model=SelectKBest(chi2,k=2)  #构建相关系数模型
model.fit_transform(iris.data, iris.target) #对模型将数据传入
print('卡方系数：',model.scores_)    #返回所有变量X与Y的相关系数值
print('P值：',model.pvalues_)   #返回所有变量X的P值
print('所选变量的数值为：\n',model.fit_transform(iris.data, iris.target))  #打印传入数据的话会返回k=2所选择的两个变量的数据的值

互信息

经典的互信息也是评价定性自变量对定性因变量的相关性的，互信息计算公式如下：

为了处理定量数据，最大信息系数法被提出，使用feature_selection库的SelectKBest类结合最大信息系数法来选择特征的代码如下：

import numpy as np
from sklearn.feature_selection import SelectKBest
from minepy import MINE
from sklearn import  datasets

iris=datasets.load_iris()

def mic(x, y):
    m = MINE()
    m.compute_score(x, y)
    return (m.mic(), 0.5)

model=SelectKBest(lambda X,Y:np.array(list(map(lambda x:mic(x,Y),X.T))).T[0],,k=2)  #构建互信息数模型
model.fit_transform(iris.data, iris.target) #对模型将数据传入
print('互信息系数：',model.scores_)    #返回所有变量X与Y的相关系数值
print('P值：',model.pvalues_)   #返回所有变量X的P值
print('所选变量的数值为：\n',model.fit_transform(iris.data, iris.target))  #打印传入数据的话会返回k=2所选择的两个变量的数据的值

三、Wrapper方法

递归特征消除法

递归消除特征法使用一个基模型来进行多轮训练，每轮训练后，消除若干权值系数的特征，再基于新的特征集进行下一轮训练。使用feature_selection库的RFE类来选择特征的代码如下：

import numpy as np
from sklearn.feature_selection import RFE,RFECV
from sklearn.linear_model import LogisticRegression
from sklearn import  datasets

iris=datasets.load_iris()

# FECV()    #利用交叉验证来选择，不过这里的交叉验证的数据集切割对象不再是 行数据（样本），而是列数据（特征），但是计算量会大，cv默认是3
model=RFE(estimator=LogisticRegression(), n_features_to_select=2)   #构建逻辑回归的递归消除模型
model.fit_transform(iris.data, iris.target) #传入数据
print(model.classes_)   #返回递归消除得到的变量

四、 Embedded方法

基于L1、L2惩罚项的特征选择法

使用带惩罚项的基模型，除了筛选出特征外，同时也进行了降维。使用feature_selection库的SelectFromModel类结合带L1惩罚项的逻辑回归模型，来选择特征的代码如下：

import numpy as np
from sklearn.feature_selection import SelectFromModel
from sklearn.linear_model import LogisticRegression
from sklearn import  datasets

iris=datasets.load_iris()

#带L1惩罚项的逻辑回归作为基模型的特征选择
model=SelectFromModel(LogisticRegression(penalty="l1", C=0.1))
model.fit_transform(iris.data, iris.target) #传入数据
print(model.fit_transform(iris.data, iris.target))   #返回模型选择的变量的数据内容

L2的特征选择请参考连接：https://www.cnblogs.com/jasonfreak/p/5448385.html

五、基于树模型的特征选择

树模型中GBDT也可用来作为基模型进行特征选择，使用feature_selection库的SelectFromModel类结合GBDT模型，来选择特征的代码如下：

import numpy as np
from sklearn.feature_selection import SelectFromModel
from sklearn.ensemble import GradientBoostingClassifier
from sklearn import  datasets

iris=datasets.load_iris()

#带L1惩罚项的逻辑回归作为基模型的特征选择
model=SelectFromModel(GradientBoostingClassifier())
model.fit_transform(iris.data, iris.target) #传入数据
print(model.fit_transform(iris.data, iris.target))   #返回模型选择的变量的数据内容

sklearn——特征选择