tensorflow.equal()op上不兼容的形状用于正确的预测评估

shorty_ponton

使用Tensorflow的MNIST教程,我尝试使用“人脸数据库”构建用于人脸识别的卷积网络

图像尺寸为112x92,我使用了3个以上的卷积层将其减小为6 x 5,如此处所示

我对卷积网络非常陌生,我的大多数层声明都是类似于Tensorflow MNIST教程进行的,可能有点笨拙,因此随时可以向我提出建议。

x_image = tf.reshape(x, [-1, 112, 92, 1])

h_conv1 = tf.nn.relu(conv2d(x_image, W_conv1) + b_conv1)
h_pool1 = max_pool_2x2(h_conv1)

W_conv2 = weight_variable([5, 5, 32, 64])
b_conv2 = bias_variable([64])
h_conv2 = tf.nn.relu(conv2d(h_pool1, W_conv2) + b_conv2)
h_pool2 = max_pool_2x2(h_conv2)

W_conv3 = weight_variable([5, 5, 64, 128])
b_conv3 = bias_variable([128])
h_conv3 = tf.nn.relu(conv2d(h_pool2, W_conv3) + b_conv3)
h_pool3 = max_pool_2x2(h_conv3)

W_conv4 = weight_variable([5, 5, 128, 256])
b_conv4 = bias_variable([256])
h_conv4 = tf.nn.relu(conv2d(h_pool3, W_conv4) + b_conv4)
h_pool4 = max_pool_2x2(h_conv4)

W_conv5 = weight_variable([5, 5, 256, 512])
b_conv5 = bias_variable([512])
h_conv5 = tf.nn.relu(conv2d(h_pool4, W_conv5) + b_conv5)
h_pool5 = max_pool_2x2(h_conv5)

W_fc1 = weight_variable([6 * 5 * 512, 1024])
b_fc1 = bias_variable([1024])
h_pool5_flat = tf.reshape(h_pool5, [-1, 6 * 5 * 512])
h_fc1 = tf.nn.relu(tf.matmul(h_pool5_flat, W_fc1) + b_fc1)

keep_prob = tf.placeholder("float")
h_fc1_drop = tf.nn.dropout(h_fc1, keep_prob)

print orlfaces.train.num_classes # 40
W_fc2 = weight_variable([1024, orlfaces.train.num_classes])
b_fc2 = bias_variable([orlfaces.train.num_classes])
y_conv = tf.nn.softmax(tf.matmul(h_fc1_drop, W_fc2) + b_fc2)

会话运行“ correct_prediction” op时出现我的问题

tf.equal(tf.argmax(y_conv, 1), tf.argmax(y_, 1))

至少我认为鉴于错误消息:

W tensorflow/core/common_runtime/executor.cc:1027] 0x19369d0 Compute status: Invalid argument: Incompatible shapes: [8] vs. [20]
     [[Node: Equal = Equal[T=DT_INT64, _device="/job:localhost/replica:0/task:0/cpu:0"](ArgMax, ArgMax_1)]]
Traceback (most recent call last):
  File "./convolutional.py", line 133, in <module>
    train_accuracy = accuracy.eval(feed_dict = {x: batch[0], y_: batch[1], keep_prob: 1.0})
  File "/usr/local/lib/python2.7/dist-packages/tensorflow/python/framework/ops.py", line 405, in eval
    return _eval_using_default_session(self, feed_dict, self.graph, session)
  File "/usr/local/lib/python2.7/dist-packages/tensorflow/python/framework/ops.py", line 2728, in _eval_using_default_session
    return session.run(tensors, feed_dict)
  File "/usr/local/lib/python2.7/dist-packages/tensorflow/python/client/session.py", line 345, in run
    results = self._do_run(target_list, unique_fetch_targets, feed_dict_string)
  File "/usr/local/lib/python2.7/dist-packages/tensorflow/python/client/session.py", line 419, in _do_run
    e.code)
tensorflow.python.framework.errors.InvalidArgumentError: Incompatible shapes: [8] vs. [20]
     [[Node: Equal = Equal[T=DT_INT64, _device="/job:localhost/replica:0/task:0/cpu:0"](ArgMax, ArgMax_1)]]
Caused by op u'Equal', defined at:
  File "./convolutional.py", line 125, in <module>
    correct_prediction = tf.equal(tf.argmax(y_conv, 1), tf.argmax(y_, 1))
  File "/usr/local/lib/python2.7/dist-packages/tensorflow/python/ops/gen_math_ops.py", line 328, in equal
    return _op_def_lib.apply_op("Equal", x=x, y=y, name=name)
  File "/usr/local/lib/python2.7/dist-packages/tensorflow/python/ops/op_def_library.py", line 633, in apply_op
    op_def=op_def)
  File "/usr/local/lib/python2.7/dist-packages/tensorflow/python/framework/ops.py", line 1710, in create_op
    original_op=self._default_original_op, op_def=op_def)
  File "/usr/local/lib/python2.7/dist-packages/tensorflow/python/framework/ops.py", line 988, in __init__
    self._traceback = _extract_stack()

看起来y_conv输出形状为8 x batch_size而不是number_of_class x batch_size的矩阵

如果我改变批量大小为20〜10,错误消息保持不变而是[8]与[20]我得到[4]与[10] 因此,我认为问题可能来自y_conv声明(上面代码的最后一行)。

损失函数,优化器,训练等声明与MNIST教程中的相同:

cross_entropy = -tf.reduce_sum(y_ * tf.log(y_conv))
train_step = tf.train.AdamOptimizer(1e-4).minimize(cross_entropy)
correct_prediction = tf.equal(tf.argmax(y_conv, 1), tf.argmax(y_, 1))
accuracy = tf.reduce_mean(tf.cast(correct_prediction, "float"))
sess.run((tf.initialize_all_variables()))
for i in xrange(1000):
    batch = orlfaces.train.next_batch(20)
    if i % 100 == 0:
        train_accuracy = accuracy.eval(feed_dict = {x: batch[0], y_: batch[1], keep_prob: 1.0})
        print "Step %d, training accuracy %g" % (i, train_accuracy)
    train_step.run(feed_dict = {x: batch[0], y_: batch[1], keep_prob: 0.5})

print "Test accuracy %g" % accuracy.eval(feed_dict = {x: orlfaces.test.images, y_: orlfaces.test.labels, keep_prob: 1.0})

谢谢阅读,祝你有美好的一天

shorty_ponton

好吧,经过大量调试后,我发现我的问题是由于标签的实例化错误所致。我没有创建一个由零组成的数组,而是将一个值替换为1,而是使用随机值创建了它们!愚蠢的错误。如果有人想知道我在这里做错了什么以及如何在这里解决它是我所做的更改。

无论如何,在我进行的所有调试过程中,为了发现此错误,我发现了一些有用的信息来调试此类问题:

  1. 对于交叉熵声明,tensorflow的MNIST教程使用的公式可以得出NaN值

这个公式是

cross_entropy = -tf.reduce_sum(y_ * tf.log(y_conv))

取而代之的是,我发现了两种以更安全的方式声明它的方法:

cross_entropy = -tf.reduce_sum(y_ * tf.log(tf.clip_by_value(y_conv, 1e-10, 1.0)))

或者:

cross_entropy = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(logit, y_))
  1. 正如mrry所说。打印张量的形状可以帮助检测形状异常。

要获得张量的形状,只需调用他的get_shape()方法,如下所示:

print "W shape:", W.get_shape()
  1. 这个问题中的user1111929使用调试打印可以帮助我断言问题的根源

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

Tensorflow输入形状不兼容

来自分类Dev

tensorflow:模型是用形状(无,无,6)构造的,但是在形状不兼容的输入上被调用

来自分类Dev

tensorflow:模型是用形状(无,无,6)构造的,但是在形状不兼容的输入上被调用

来自分类Dev

tensorflow:模型是用形状(无,无,6)构造的,但是在形状不兼容的输入上被调用

来自分类Dev

tensorflow:模型是用形状(无,无,6)构造的,但是在形状不兼容的输入上被调用

来自分类Dev

Tensorflow 评估

来自分类Dev

TensorFlow的无效参数错误(形状不兼容)

来自分类Dev

在tensorflow中获取ValueError,表明我的形状不兼容

来自分类Dev

警告:tensorflow:使用输入Tensor()的形状构造模型。但它在形状不兼容的输入上被调用

来自分类Dev

Tensorflow 形状不正确

来自分类Dev

Tensorflow Keras形状不匹配

来自分类Dev

Keras / Tensorflow预测:数组形状错误

来自分类Dev

Tensorflow概率:ValueError:Tensor的形状(2,2)与提供的形状(2,)不兼容

来自分类Dev

与tensorflow 1.15兼容的tensorflow_datasets版本

来自分类Dev

Tensorflow收敛但预测错误

来自分类Dev

Tensorflow:获得预测

来自分类Dev

Tensorflow无法评估梯度

来自分类Dev

TensorFlow:评估还原图

来自分类Dev

tensorflow keras 评估函数

来自分类Dev

tensorflow / tflearn输入形状

来自分类Dev

TensorFlow:形状错误

来自分类Dev

TensorFlow 错误的数组形状

来自分类Dev

Tensorflow 动态 RNN - 形状

来自分类Dev

如何获得 Tensorflow 形状

来自分类Dev

用于培训和评估操作的Tensorflow主管?

来自分类Dev

Tensorflow尺寸在CNN中不兼容

来自分类Dev

List(vector)与tensorflow要求的形状不匹配

来自分类Dev

Windows上的TensorFlow:“ pip install tensorflow”失败

来自分类Dev

不兼容的形状:[1020,1,1]与[1019,1,1]-Tensorflow

Related 相关文章

  1. 1

    Tensorflow输入形状不兼容

  2. 2

    tensorflow:模型是用形状(无,无,6)构造的,但是在形状不兼容的输入上被调用

  3. 3

    tensorflow:模型是用形状(无,无,6)构造的,但是在形状不兼容的输入上被调用

  4. 4

    tensorflow:模型是用形状(无,无,6)构造的,但是在形状不兼容的输入上被调用

  5. 5

    tensorflow:模型是用形状(无,无,6)构造的,但是在形状不兼容的输入上被调用

  6. 6

    Tensorflow 评估

  7. 7

    TensorFlow的无效参数错误(形状不兼容)

  8. 8

    在tensorflow中获取ValueError,表明我的形状不兼容

  9. 9

    警告:tensorflow:使用输入Tensor()的形状构造模型。但它在形状不兼容的输入上被调用

  10. 10

    Tensorflow 形状不正确

  11. 11

    Tensorflow Keras形状不匹配

  12. 12

    Keras / Tensorflow预测:数组形状错误

  13. 13

    Tensorflow概率:ValueError:Tensor的形状(2,2)与提供的形状(2,)不兼容

  14. 14

    与tensorflow 1.15兼容的tensorflow_datasets版本

  15. 15

    Tensorflow收敛但预测错误

  16. 16

    Tensorflow:获得预测

  17. 17

    Tensorflow无法评估梯度

  18. 18

    TensorFlow:评估还原图

  19. 19

    tensorflow keras 评估函数

  20. 20

    tensorflow / tflearn输入形状

  21. 21

    TensorFlow:形状错误

  22. 22

    TensorFlow 错误的数组形状

  23. 23

    Tensorflow 动态 RNN - 形状

  24. 24

    如何获得 Tensorflow 形状

  25. 25

    用于培训和评估操作的Tensorflow主管?

  26. 26

    Tensorflow尺寸在CNN中不兼容

  27. 27

    List(vector)与tensorflow要求的形状不匹配

  28. 28

    Windows上的TensorFlow:“ pip install tensorflow”失败

  29. 29

    不兼容的形状:[1020,1,1]与[1019,1,1]-Tensorflow

热门标签

归档