sparse-matrix - LASSO 和稀疏解决方案

Question

在一段文字中，我发现了以下内容：

“LASSO 回归方法提供了稀疏解决方案，因此可以提高模型的可解释性”。

有人可以帮我理解这是什么意思吗？据我所知，方程组解的稀疏分解是维数为 l 的向量，具有最小伪 l 范数，使得系统仍然得到满足。将一些回归系数设置为零的稀疏解决方案如何有助于解释？

标签： sparse-matrixlasso-regression

Answer 1

当您的矩阵主要包含零和很少的非零条目时，稀疏矩阵/数组或任何定义。另一方面，密集矩阵/数组是当你有几个零时。

当您应用 LASSO 回归时，您学习的系数的稀疏性取决于惩罚量 (lambda)。惩罚越高，你得到的稀疏系数就越多。即非零系数（选定变量）。例如，如果您的回归中有 100 个自变量，则 LASSO 可能仅返回 10 个非零变量。这意味着 10 个非零变量和 90 个零变量。这正是稀疏的含义。

选择很少的变量（非零）意味着可解释的模型，因为您可以用很少的变量（在上面的示例中为 10 个变量）而不是使用 100 个变量来解释它。