train() 中的 ROC 指标,插入符号包

克里斯

df在训练和测试dataframes分裂。训练数据帧分为训练数据帧和测试数据帧。因变量Y是二进制(因子),值为 0 和 1。我试图用这个代码(神经网络,插入符号包)预测概率:

library(caret)

model_nn <- train(
  Y ~ ., training,
  method = "nnet",
  metric="ROC",
  trControl = trainControl(
    method = "cv", number = 10,
    verboseIter = TRUE,
    classProbs=TRUE
  )
)

model_nn_v2 <- model_nn
nnprediction <- predict(model_nn, testing, type="prob")
cmnn <-confusionMatrix(nnprediction,testing$Y)
print(cmnn) # The confusion matrix is to assess/compare the model

但是,它给了我这个错误:

    Error: At least one of the class levels is not a valid R variable name; 
This will cause errors when class probabilities are generated because the
 variables names will be converted to  X0, X1 . Please use factor levels 
that can be used as valid R variable names  (see ?make.names for help).

我不明白“使用可用作有效 R 变量名称的因子水平”是什么意思。因变量Y已经是一个因子,但不是有效的 R 变量名称?。

PS:在代码完美地工作,如果你删除classProbs=TRUEtrainControl()metric="ROC"train()但是,"ROC"在我的情况下,该指标是我比较最佳模型的指标,因此我正在尝试使用“ROC”指标制作模型。

编辑:代码示例:

# You have to run all of this BEFORE running the model
classes <- c("a","b","b","c","c")
floats <- c(1.5,2.3,6.4,2.3,12)
dummy <- c(1,0,1,1,0)
chr <- c("1","2","2,","3","4")
Y <- c("1","0","1","1","0")
df <- cbind(classes, floats, dummy, chr, Y)
df <- as.data.frame(df)
df$floats <- as.numeric(df$floats)
df$dummy <- as.numeric(df$dummy)

classes <- c("a","a","a","b","c")
floats <- c(5.5,2.6,7.3,54,2.1)
dummy <- c(0,0,0,1,1)
chr <- c("3","3","3,","2","1")
Y <- c("1","1","1","0","0")
df <- cbind(classes, floats, dummy, chr, Y)
df <- as.data.frame(df)
df$floats <- as.numeric(df$floats)
df$dummy <- as.numeric(df$dummy)
沙漠之舟

这里有两个不同的问题。

第一个是错误信息,这说明了一切:你必须使用别的东西比"0", "1"数值为你的依赖因子变量Y

在构建数据框后,您至少可以通过两种方式执行此操作df第一个提示错误消息,即使用make.names

df$Y <- make.names(df$Y)
df$Y
# "X1" "X1" "X1" "X0" "X0"

第二种方法是使用levels函数,通过它你可以显式控制名称本身;在这里再次显示它的名称X0X1

levels(df$Y) <- c("X0", "X1")
df$Y
# [1] X1 X1 X1 X0 X0
# Levels: X0 X1

添加上述任一行后,显示的train()代码将顺利运行(替换trainingdf),但它仍然不会产生任何 ROC 值,而是给出警告:

Warning messages:
1: In train.default(x, y, weights = w, ...) :
  The metric "ROC" was not in the result set. Accuracy will be used instead.

这给我们带来的第二个问题在这里:为了使用ROC指标,必须添加summaryFunction = twoClassSummarytrControl的说法train()

model_nn <- train(
  Y ~ ., df,
  method = "nnet",
  metric="ROC",
  trControl = trainControl(
    method = "cv", number = 10,
    verboseIter = TRUE,
    classProbs=TRUE,
    summaryFunction = twoClassSummary # ADDED
  )
)

使用您提供的玩具数据运行上面的代码片段仍然会出现错误(缺少 ROC 值),但这可能是由于这里使用的数据集非常小,加上大量的 CV 折叠,而您自己的数据不会发生这种情况, 完整数据集(如果我将 CV 折叠减少到 ,它可以正常工作number=3)...

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

评估 ROC 指标,插入符号包 - R

来自分类Dev

将指标添加到插入符号包的默认train()输出中

来自分类Dev

R的插入符号包中的rfe()中的ROC

来自分类Dev

R 插入符号包中的 train() 函数中的 rbind.fill 错误

来自分类Dev

在RFE流程(插入符号)中更改ROC计算(pROC)的默认参数-R

来自分类Dev

在RFE流程(插入符号)中更改ROC计算(pROC)的默认参数-R

来自分类Dev

为pROC包中的multiclass.roc提供plot.roc?

来自分类Dev

使用R中的AUC包更改ROC截止值

来自分类Dev

插入符号包中的trainControl

来自分类Dev

警告消息:使用rpart的插入符号train()中的“重新采样的性能度量中缺少值”

来自分类Dev

在R(插入符号)中重新运行preProcess(),predict()和train()时,不同的模型精度

来自分类Dev

如何使用插入符号包使用ROC选择最佳模型参数?

来自分类Dev

插入符号包中的“随机森林”错误

来自分类Dev

插入符号包中的“随机森林”错误

来自分类Dev

多类kNN中的ROC

来自分类Dev

多类kNN中的ROC

来自分类Dev

如何使用pROC或ROCR包从R中的预测类概率计算ROC曲线下的面积?

来自分类Dev

如何处理R(pROC软件包)中的多类ROC分析?

来自分类Dev

如何为码标包中的roc_auc()函数正确设置估计参数

来自分类Dev

如何处理R(pROC程序包)中的多类ROC分析?

来自分类Dev

结果集中未包含“ ROC”指标

来自分类Dev

强制roc函数(R中的软件包pROC)中输入的“ direction”自变量强制执行什么操作?

来自分类Dev

更改R中ROC的刻度线

来自分类Dev

ggplot计算中的ROC曲线[r]

来自分类Dev

如何在插入符号包中制作树图?

来自分类Dev

在R中由插入符号包训练的SVM线性模型

来自分类Dev

控制插入符号R包中的交叉验证的采样

来自分类Dev

插入符号中自定义指标功能的每个CV折叠的访问索引

来自分类Dev

软件包TTR中的ROC函数引发错误:未使用的参数(na.pad = na.pad)

Related 相关文章

  1. 1

    评估 ROC 指标,插入符号包 - R

  2. 2

    将指标添加到插入符号包的默认train()输出中

  3. 3

    R的插入符号包中的rfe()中的ROC

  4. 4

    R 插入符号包中的 train() 函数中的 rbind.fill 错误

  5. 5

    在RFE流程(插入符号)中更改ROC计算(pROC)的默认参数-R

  6. 6

    在RFE流程(插入符号)中更改ROC计算(pROC)的默认参数-R

  7. 7

    为pROC包中的multiclass.roc提供plot.roc?

  8. 8

    使用R中的AUC包更改ROC截止值

  9. 9

    插入符号包中的trainControl

  10. 10

    警告消息:使用rpart的插入符号train()中的“重新采样的性能度量中缺少值”

  11. 11

    在R(插入符号)中重新运行preProcess(),predict()和train()时,不同的模型精度

  12. 12

    如何使用插入符号包使用ROC选择最佳模型参数?

  13. 13

    插入符号包中的“随机森林”错误

  14. 14

    插入符号包中的“随机森林”错误

  15. 15

    多类kNN中的ROC

  16. 16

    多类kNN中的ROC

  17. 17

    如何使用pROC或ROCR包从R中的预测类概率计算ROC曲线下的面积?

  18. 18

    如何处理R(pROC软件包)中的多类ROC分析?

  19. 19

    如何为码标包中的roc_auc()函数正确设置估计参数

  20. 20

    如何处理R(pROC程序包)中的多类ROC分析?

  21. 21

    结果集中未包含“ ROC”指标

  22. 22

    强制roc函数(R中的软件包pROC)中输入的“ direction”自变量强制执行什么操作?

  23. 23

    更改R中ROC的刻度线

  24. 24

    ggplot计算中的ROC曲线[r]

  25. 25

    如何在插入符号包中制作树图?

  26. 26

    在R中由插入符号包训练的SVM线性模型

  27. 27

    控制插入符号R包中的交叉验证的采样

  28. 28

    插入符号中自定义指标功能的每个CV折叠的访问索引

  29. 29

    软件包TTR中的ROC函数引发错误:未使用的参数(na.pad = na.pad)

热门标签

归档