使用 Hparam 仪表板抛出错误的超参数调整

我正在尝试为我在 keras 中构建的顺序模型优化最佳条件。

我最近遇到了 Hparams 仪表板，它看起来是一种非常好的方法。但是我在实际运行模型进行参数优化的阶段遇到了一个问题！

我正在运行的代码（刚开始直接取自 tf 页面）

https://www.tensorflow.org/tensorboard/r2/hyperparameter_tuning_with_hparams

我已将 tf 上的 Hparams 代码修改为我的顺序模型。出于练习的目的，我删除了一个 dropout 层（因为我的模型中没有任何层）以及优化器。现在我想看看我的模型是如何受到层中节点变化的影响的。我的代码如下：

HP_NUM_UNITS = hp.HParam('num_units', hp.Discrete([16, 32]))


METRIC_ACCURACY = 'accuracy'

with tf.summary.create_file_writer('logs/hparam_tuning').as_default():
  hp.hparams_config(
    hparams=[HP_NUM_UNITS],
    metrics=[hp.Metric(METRIC_ACCURACY, display_name='Accuracy')],
  )

def train_test_model(hparams):
  model = tf.keras.models.Sequential([
    tf.keras.layers.Dense(hparams[HP_NUM_UNITS], activation=tf.nn.relu),
    tf.keras.layers.Dense(24, activation=tf.nn.sigmoid),
  ])
  model.compile(
      optimizer='adam',
      loss='binary_crossentropy',
      metrics=['accuracy'],
  )

  model.fit(X_train.values, y_train, epochs=50) 
  _, accuracy = model.evaluate(X_test, y_test)
  return accuracy

def run(run_dir, hparams):
  with tf.summary.create_file_writer(run_dir).as_default():
    hp.hparams(hparams)  # record the values used in this trial
    accuracy = train_test_model(hparams)
    tf.summary.scalar(METRIC_ACCURACY, accuracy, step=1)

到目前为止，一切正常！就我的第一次尝试而言，除了删除 dropout 和优化器以及在代码中应用我自己的模型之外，我没有太大变化。我需要比 16 和 32 等更多的单位，但这只是为了制作管道......

当我运行以下代码来执行优化时，出现错误。代码是：

session_num = 0

for num_units in HP_NUM_UNITS.domain.values:
      hparams = { 
          HP_NUM_UNITS: num_units,
          }

      run_name = "run-%d" % session_num
      print('--- Starting trial: %s' % run_name)
      print({h.name: hparams[h] for h in hparams})
      run('logs/hparam_tuning/' + run_name, hparams)
      session_num += 1

这会引发错误！错误是（我不太明白）：

ValueError：无法创建由多个图形中的元素组成的执行函数。

这个错误发生在第一次尝试模型之后，就像模型适合的第一组单元 (16)。如果我查看回溯，我会得到进度报告：

Epoch 1/50 140/140 [==============================] - 0s 3ms/sample - 损失：0.6847 - 准确度: 0.5723...... 纪元 50/50 140/140 [==============================] - 0s 206us /sample - 损失：0.2661 - 准确度：0.8857

之后是我收到错误时（无法创建执行函数......等）

我不确定如何解决这个问题，任何帮助将不胜感激！

我非常乐意提供更多详细信息/代码！

谢谢！