pandas - sklearn.ensemble.GradientBoostingRegressor 是否支持稀疏输入样本？

问题描述

我正在使用sklearn.ensemble.GradientBoostingRegressor有时缺少某些值的数据。我不能轻易地估算这些数据，因为它们有很大的差异，而且估计对它们非常敏感。它们也几乎从不为 0。

该方法的文档说明fit了第一个参数X：

输入样本。在内部，它将被转换为 dtype=np.float32 并且如果将稀疏矩阵提供给稀疏 csr_matrix。

这让我认为 GradientBoostingRegressor 可以处理稀疏的输入数据。

但是在内部check_array它使用隐式调用force_all_finite=True（默认值），因此如果我输入csr_matrix带有NaN值的值，我会收到以下错误：

ValueError：输入包含 NaN、无穷大或对于 dtype('float32') 来说太大的值

GradientBoostingRegressor 实际上不支持稀疏数据吗？

更新：

我很幸运，因为我没有任何有意义的零。我的调用代码现在如下所示：

predictors['foobar'] = predictors['foobar'].fillna(0) # for columns that contain NaNs
predictor_matrix = scipy.sparse.csr_matrix(
    predictors.values.astype(np.float)
)
predictor_matrix.eliminate_zeros()
model.fit(predictor_matrix, regressands)

这避免了上述异常。可惜没有eliminate_nans()办法。（当我打印一个带有NaNs 的稀疏矩阵时，它会明确列出它们，所以备用性必须是不包含NaNs 的东西。）

但是预测性能没有（明显）改变。

标签： pandasnumpymachine-learningscikit-learnscipy

pandas - sklearn.ensemble.GradientBoostingRegressor 是否支持稀疏输入样本？

问题描述

解决方案

推荐阅读