首页 > 解决方案 > predict.svm 回归方法中的错误?

问题描述

我使用以下 GDP 从“e1071”包中创建了一个 svm 公式:

library(e1071)

set.seed(100)
x <- seq(0.1, 5, by = 0.05)
w <- runif(x, min = 5, max = 6)
y <- log(x) + w ^ 2 + rnorm(x, sd = 0.2)

dt <- as.data.frame(cbind(y,x,w))

dt_train <- dt[(1:(length(x)-1)),]

dt_test <- dt[length(x),]

model <- svm(y ~ ., data = dt_train, type = "eps-regression", kernel =
    "radial", gamma = 1, cost = 1, epsilon = 0.1)

为了在样本外生成预测:

predict(model, newdata = dt_test)

28.13943

更改 dt_test 时:

dt_test[1,] <- 100:102
predict(model, newdata = dt_test)

31.00455

但是,当再次更改 dt_test 时,我们会得到相同的答案:

dt_test[1,] <- c(0,78,1000)
predict(model, newdata = dt_test)

31.00455

如果我再次更改,答案将是相同的:

dt_test[1,] <- rnorm(3)
predict(model, newdata = dt_test)

31.00455

当我想使用 svm 回归对时间序列进行预测时,这个错误是一个障碍。任何反馈将不胜感激。

标签: rsvmpredict

解决方案


TL/DR:你的测试数据离你的训练数据太远了

比较一下您的训练数据与测试数据的分布情况。

(M = sapply(dt, mean))
        y         x         w 
31.204838  2.550000  5.517325 
(S = sapply(dt, sd))
       y        x        w 
3.131271 1.436141 0.262107 

(100:102 - M)/S
        y         x         w 
 21.97036  68.55178 368.10419 
(c(0,78,1000) - M)/S
         y          x          w 
  -9.96555   52.53664 3794.18628 
(rnorm(3) - M)/S
         y          x          w 
 -9.118284  -1.747814 -15.895867 

您的第一个数据点与平均值相差 368 个标准差。
您的第二个数据点与平均值相差 3794 个标准差。
您的第三个数据点与平均值仅相差 16 个标准差。
这些点基本上是无穷大的。

您发现远离训练数据,您的模型正在预测一个常数。但是如果你从你的训练数据中获取小于 3 个标准差的数据点,你会发现模型不是恒定的。


推荐阅读