在TensorFlow中多次初始化变量会泄漏内存

丹德森

这是我的示例代码:

N = 3000
with tf.variable_scope("scope") as scope:
    A = tf.Variable(np.random.randn(N,N), dtype=tf.float32, name='A')

sess = tf.Session()

for _ in range(100):
    sess.run(tf.global_variables_initializer())

运行代码会在我的机器上分配> 10GB的内存。我想多次重新训练模型,而不必每次都将整个图重置为默认图。我想念什么?

谢谢!

丹德森

我发现了问题。对于将来遇到相同问题的任何人:问题似乎是每次在循环中都会创建一个新的初始化操作。我的解决方案是重用初始化操作。这为我解决了内存“泄漏”:

N = 3000
tf.reset_default_graph()
with tf.variable_scope("scope") as scope:
    A = tf.Variable(np.random.randn(N,N), dtype=tf.float32, name='A')

varlist = tf.get_collection(tf.GraphKeys.GLOBAL_VARIABLES, scope="scope")
init = tf.variables_initializer(varlist) # or tf.global_variables_initializer()
for _ in range(100):
    sess = tf.Session()
    sess.run(init) # here we reuse the init operation

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

阵列重新初始化会导致内存泄漏吗?

来自分类Dev

静态变量会进行多次初始化吗?

来自分类Dev

在Tensorflow中重新初始化变量

来自分类Dev

使用函数初始化静态向量会导致内存泄漏吗?

来自分类Dev

Java中初始化变量的内存分配

来自分类Dev

使用内部类中的方法而没有使用new关键字进行对象初始化是否会导致C#Winforms中的内存泄漏

来自分类Dev

内联变量被多次初始化

来自分类Dev

不能多次初始化var变量

来自分类Dev

在类的构造函数中初始化映射时,如何避免内存泄漏?

来自分类Dev

在构造函数中初始化const char *-会发生内存泄漏吗?

来自分类Dev

ViewController取消初始化后,UIImageView上的内存泄漏

来自分类Dev

动态确定在 TensorFlow 中初始化变量的张量

来自分类Dev

tensorflow:LSTM单元中变量的初始化器

来自分类Dev

在TensorFlow中初始化变量的最佳方法是什么?

来自分类Dev

如何在Tensorflow中动态初始化变量?

来自分类Dev

如何初始化tensorflow函数中定义的变量?

来自分类Python

TensorFlow:变量初始化中的“尝试使用未初始化的值”

来自分类Python

在TensorFlow中,有什么方法可以初始化未初始化的变量?

来自分类Dev

TensorFlow:变量初始化中的“尝试使用未初始化的值”

来自分类Dev

为什么使用不同类型的会话会影响变量是否在 tensorflow 中初始化?

来自分类Dev

Tensorflow基本示例-变量初始化

来自分类Dev

Tensorflow变量未初始化

来自分类Dev

TensorFlow变量无法初始化

来自分类Dev

Golang中的多次初始化

来自分类Dev

在vba中多次初始化数组

来自分类Dev

初始化@State 变量时,如何避免多次初始化 SwiftUI 初始视图?

来自分类Dev

CPP中的Valgrind和内存泄漏:“有条件的跳转或移动取决于未初始化的值”

来自分类Dev

结构变量初始化后,结构中的const变量会进入RAM吗?

来自分类Dev

在 C 中,变量的多次初始化不会引发错误。为什么?

Related 相关文章

  1. 1

    阵列重新初始化会导致内存泄漏吗?

  2. 2

    静态变量会进行多次初始化吗?

  3. 3

    在Tensorflow中重新初始化变量

  4. 4

    使用函数初始化静态向量会导致内存泄漏吗?

  5. 5

    Java中初始化变量的内存分配

  6. 6

    使用内部类中的方法而没有使用new关键字进行对象初始化是否会导致C#Winforms中的内存泄漏

  7. 7

    内联变量被多次初始化

  8. 8

    不能多次初始化var变量

  9. 9

    在类的构造函数中初始化映射时,如何避免内存泄漏?

  10. 10

    在构造函数中初始化const char *-会发生内存泄漏吗?

  11. 11

    ViewController取消初始化后,UIImageView上的内存泄漏

  12. 12

    动态确定在 TensorFlow 中初始化变量的张量

  13. 13

    tensorflow:LSTM单元中变量的初始化器

  14. 14

    在TensorFlow中初始化变量的最佳方法是什么?

  15. 15

    如何在Tensorflow中动态初始化变量?

  16. 16

    如何初始化tensorflow函数中定义的变量?

  17. 17

    TensorFlow:变量初始化中的“尝试使用未初始化的值”

  18. 18

    在TensorFlow中,有什么方法可以初始化未初始化的变量?

  19. 19

    TensorFlow:变量初始化中的“尝试使用未初始化的值”

  20. 20

    为什么使用不同类型的会话会影响变量是否在 tensorflow 中初始化?

  21. 21

    Tensorflow基本示例-变量初始化

  22. 22

    Tensorflow变量未初始化

  23. 23

    TensorFlow变量无法初始化

  24. 24

    Golang中的多次初始化

  25. 25

    在vba中多次初始化数组

  26. 26

    初始化@State 变量时,如何避免多次初始化 SwiftUI 初始视图?

  27. 27

    CPP中的Valgrind和内存泄漏:“有条件的跳转或移动取决于未初始化的值”

  28. 28

    结构变量初始化后,结构中的const变量会进入RAM吗?

  29. 29

    在 C 中,变量的多次初始化不会引发错误。为什么?

热门标签

归档