如何使用验证数据调整超参数

wcarvalho

我正在训练神经网络机器学习模型,并且对如何调整超参数有些困惑。

我看到培训过程如下:

  • 用一些超参数建立神经网络(例如,隐藏层中的神经元数量)
  • 使用训练数据更新参数
  • 使用验证数据来评估模型是否过拟合并且正在改进
  • 使用测试数据评估性能

有人告诉我验证数据也用于调整超参数。我不知道如何执行此操作,因为在建立模型并对其进行了训练之后,将使用验证数据我无法更改超参数,因为该模型已经构建。

假设我有4个超参数,它们指定了神经网络的体系结构。我应该为每个超参数组合(4 ^ 4组合)经历整个训练,验证过程吗?

谢谢

路易斯·里尔

基本上是的,您必须经历整个过程。交叉验证和模型/参数选择是通过这种方式完成的,您需要训练多次(不同的参数),评估生成的模型(通过成本,损失,准确性或适当的度量标准),然后选择给出最佳结果的参数。

例如,如果您在训练回归模型,则可以训练10个不同的多项式模型,并使用验证数据来选择更好的模型,在您的情况下相同,但是您使用的是不同的网络体系结构。

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

使用GridSearchCV进行GBRT超参数调整

来自分类Dev

使用GridSearchCV进行超参数调整

来自分类Dev

使用AI Platform超参数调整功能时如何强制参数依赖?

来自分类Dev

如何通过超参数调整来改善此模型

来自分类Dev

使用R中的纯游侠包进行超参数调整

来自分类Dev

使用R中的纯游侠包进行超参数调整

来自分类Dev

使用 gridsearchCV 调整改变熊猫 df 的超参数

来自分类Dev

使用 Google Cloud ML Engine 和 XGBoost 调整超参数

来自分类Dev

如何在带有GridSearchCV的keras模型的超参数优化中使用简单的验证集?

来自分类Dev

如何使用Caret包调整多个参数?

来自分类Dev

如何使用for循环调整进入层的参数?

来自分类Dev

K-Means GridSearchCV超参数调整

来自分类Dev

Sagemaker XGBoost超参数调整错误

来自分类Dev

使用抽象超类作为Spring数据存储库的参数

来自分类Dev

使用抽象超类作为Spring数据存储库的参数

来自分类Dev

R-MLR:使用“ makeTuneControlRandom”为包装的学习者调整超参数

来自分类Dev

使用 Hparam 仪表板抛出错误的超参数调整

来自分类Dev

使用 GPU 多处理了解 openAI 健身房和 Optuna 超参数调整

来自分类Dev

在 scikit-learn 中使用 RandomizedSearchCV 对超参数进行条件调整

来自分类Dev

如何调整RewriteRule的参数?

来自分类Dev

如何调整backgroundSubtractorMOG的参数

来自分类Dev

类别参数传递整数值的Cloud ML超参数调整

来自分类Dev

如何使用Mockito验证参数化方法

来自分类Dev

如何使用超在给定的活动参数静态方法?

来自分类Dev

如何在超类方法中使用子类参数?

来自分类Dev

python:在验证集上调整模型的参数

来自分类Dev

如何使用Scikit Learn在Random Forest中调整参数?

来自分类Dev

如何通过使用gekko调整参数来解决过冲?

来自分类Dev

iBeacon:了解如何使用参数调整信标电池

Related 相关文章

  1. 1

    使用GridSearchCV进行GBRT超参数调整

  2. 2

    使用GridSearchCV进行超参数调整

  3. 3

    使用AI Platform超参数调整功能时如何强制参数依赖?

  4. 4

    如何通过超参数调整来改善此模型

  5. 5

    使用R中的纯游侠包进行超参数调整

  6. 6

    使用R中的纯游侠包进行超参数调整

  7. 7

    使用 gridsearchCV 调整改变熊猫 df 的超参数

  8. 8

    使用 Google Cloud ML Engine 和 XGBoost 调整超参数

  9. 9

    如何在带有GridSearchCV的keras模型的超参数优化中使用简单的验证集?

  10. 10

    如何使用Caret包调整多个参数?

  11. 11

    如何使用for循环调整进入层的参数?

  12. 12

    K-Means GridSearchCV超参数调整

  13. 13

    Sagemaker XGBoost超参数调整错误

  14. 14

    使用抽象超类作为Spring数据存储库的参数

  15. 15

    使用抽象超类作为Spring数据存储库的参数

  16. 16

    R-MLR:使用“ makeTuneControlRandom”为包装的学习者调整超参数

  17. 17

    使用 Hparam 仪表板抛出错误的超参数调整

  18. 18

    使用 GPU 多处理了解 openAI 健身房和 Optuna 超参数调整

  19. 19

    在 scikit-learn 中使用 RandomizedSearchCV 对超参数进行条件调整

  20. 20

    如何调整RewriteRule的参数?

  21. 21

    如何调整backgroundSubtractorMOG的参数

  22. 22

    类别参数传递整数值的Cloud ML超参数调整

  23. 23

    如何使用Mockito验证参数化方法

  24. 24

    如何使用超在给定的活动参数静态方法?

  25. 25

    如何在超类方法中使用子类参数?

  26. 26

    python:在验证集上调整模型的参数

  27. 27

    如何使用Scikit Learn在Random Forest中调整参数?

  28. 28

    如何通过使用gekko调整参数来解决过冲?

  29. 29

    iBeacon:了解如何使用参数调整信标电池

热门标签

归档