如何避免 KNN 模型中的时间泄漏？

Question

我正在建立一个 KNN 模型来预测房价。我将检查我的数据和模型，然后是我的问题。

数据 -

# A tibble: 81,334 x 4
   latitude longitude close_date          close_price
      <dbl>     <dbl> <dttm>                    <dbl>
 1     36.4     -98.7 2014-08-05 06:34:00     147504.
 2     36.6     -97.9 2014-08-12 23:48:00     137401.
 3     36.6     -97.9 2014-08-09 04:00:40     239105.

型号 -

library(caret)
training.samples <- data$close_price %>%
  createDataPartition(p = 0.8, list = FALSE)
train.data  <- data[training.samples, ]
test.data <- data[-training.samples, ]

model <- train(
  close_price~ ., data = train.data, method = "knn",
  trControl = trainControl("cv", number = 10),
  preProcess = c("center", "scale"),
  tuneLength = 10
)

我的问题是时间泄漏。我正在使用其他随后关闭的房屋对房屋进行预测，而在现实世界中我不应该访问该信息。

我想对模型应用一条规则，即对于每个值 y，仅使用在 y 的房屋之前关闭的房屋。我知道我可以在特定日期拆分我的测试数据和我的训练数据，但这并不能完全做到。

是否可以在 caret 或 knn 的其他库（如 class 和 kknn）中防止这种时间泄漏？

Answer 1

在 caret 中，createTimeSlices 实现了 cross-validation 的变体，以适应时间序列（通过滚动预测原点来避免时间泄漏）。文档是 here。

在你的情况下，根据你的具体需要，你可以使用类似这样的东西来获得适当的 cross-validation:

your_data <- your_data %>% arrange(close_date)

tr_ctrl <- createTimeSlices(
  your_data$close_price, 
  initialWindow  = 10, 
  horizon = 1,
  fixedWindow = FALSE)

model <- train(
  close_price~ ., data = your_data, method = "knn",
  trControl = tr_ctrl,
  preProcess = c("center", "scale"),
  tuneLength = 10
)

编辑：如果您在日期上有联系并且希望在测试和训练集中的同一天关闭交易，您可以在 train:

中使用它之前修复 tr_ctrl

filter_train <- function(i_tr, i_te) {
  d_tr <- as_date(your_data$close_date[i_tr]) #using package lubridate
  d_te <- as_date(your_data$close_date[i_te])
  tr_is_ok <- d_tr < min(d_te)

  i_tr[tr_is_ok]
}

tr_ctrl$train <- mapply(filter_train, tr_ctrl$train, tr_ctrl$test)

如何避免 KNN 模型中的时间泄漏？

How do I avoid time leakage in my KNN model?

r

machine-learning

knn

r-caret