在Ruby中读取大型JSON文件时出现问题

罗杰

我在使用Ruby读取大型JSON文件(2.9GB)时遇到问题。我正在使用此代码

json_file = File.read(filename)
results = JSON.parse(json_file)

当我尝试读取文件时,出现错误:

Errno::EINVAL: Invalid argument - <filename>

我已经用较小的文件测试了相同的代码,并且工作正常。为了验证文件是否正确写入,我尝试使用python读取它,并且可以正常工作。

JSON.parse的文件大小是否有限制?如果是这样,您能推荐一个替代方法吗?

我一直在msgpack寻找减小文件大小的方法,但不幸的是,我无法安装gems,这使我受到了限制。

英佩果

这是的限制IO.read

您可以将文件分成较小的部分(例如1 GB),然后分别阅读:

dirname = File.dirname(filename)
`split -b 1024m #{filename} #{filename}.parts.`
Dir.chdir(dirname)
parts = Dir["#{filename}.parts.*"]
json = ''
parts.each do |partname|
  json += File.read(partname)
  File.delete(partname)
end
results = JSON.parse(json)

请耐心等待,这可能需要一段时间。

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

在Ruby中读取大型JSON文件时出现问题

来自分类Dev

在R中读取JSON文件时出现问题

来自分类Dev

从文件中读取日语字符时出现问题-C

来自分类Dev

在C#中读取Gzip文件时出现问题

来自分类Dev

在R中读取.rdb文件时出现问题

来自分类Dev

从.cpp文件读取时出现问题

来自分类Dev

读取csv文件时出现问题

来自分类Dev

读取.txt文件时出现问题

来自分类Dev

解析json文件时出现问题

来自分类Dev

从WAR文件读取文件时出现问题

来自分类Dev

熊猫-从json文件读取datetime64对象时出现问题

来自分类Dev

读取C txt文件时出现问题

来自分类Dev

使用awk读取系统文件时出现问题

来自分类Dev

使用扫描仪读取文件时出现问题

来自分类Dev

从CSV文件读取到Postgresql时出现问题

来自分类Dev

读取GML文件时出现问题(未重新投影)

来自分类Dev

使用扫描仪读取文件时出现问题

来自分类Dev

在JavaScript / SAPUI5中读取Excel(xlsx)文件数据时出现问题

来自分类Dev

在C中的结构化列表中将stdin作为文件读取时出现问题

来自分类Dev

读取文件并将其存储在unordered_map中时出现问题

来自分类Dev

使用Apache POI在Java中读取/写入Excel文件时出现问题

来自分类Dev

读取txt文件时出现问题(带引号的字符串中的EOF)

来自分类Dev

尝试从C#中的共享点/网络位置读取文件时出现问题

来自分类Dev

在 Pandas 中读取带逗号的 CSV 文件时出现问题

来自分类Dev

在 C++ 中读取文件、搜索和显示信息到结构数组时出现问题

来自分类Dev

使用fscanf读取C中的坐标时出现问题

来自分类Dev

在八度中读取CSV时出现问题

来自分类Dev

在python中读取文件时出现的问题

来自分类Dev

使用javax createObjectBuilder创建JSON文件时出现问题

Related 相关文章

  1. 1

    在Ruby中读取大型JSON文件时出现问题

  2. 2

    在R中读取JSON文件时出现问题

  3. 3

    从文件中读取日语字符时出现问题-C

  4. 4

    在C#中读取Gzip文件时出现问题

  5. 5

    在R中读取.rdb文件时出现问题

  6. 6

    从.cpp文件读取时出现问题

  7. 7

    读取csv文件时出现问题

  8. 8

    读取.txt文件时出现问题

  9. 9

    解析json文件时出现问题

  10. 10

    从WAR文件读取文件时出现问题

  11. 11

    熊猫-从json文件读取datetime64对象时出现问题

  12. 12

    读取C txt文件时出现问题

  13. 13

    使用awk读取系统文件时出现问题

  14. 14

    使用扫描仪读取文件时出现问题

  15. 15

    从CSV文件读取到Postgresql时出现问题

  16. 16

    读取GML文件时出现问题(未重新投影)

  17. 17

    使用扫描仪读取文件时出现问题

  18. 18

    在JavaScript / SAPUI5中读取Excel(xlsx)文件数据时出现问题

  19. 19

    在C中的结构化列表中将stdin作为文件读取时出现问题

  20. 20

    读取文件并将其存储在unordered_map中时出现问题

  21. 21

    使用Apache POI在Java中读取/写入Excel文件时出现问题

  22. 22

    读取txt文件时出现问题(带引号的字符串中的EOF)

  23. 23

    尝试从C#中的共享点/网络位置读取文件时出现问题

  24. 24

    在 Pandas 中读取带逗号的 CSV 文件时出现问题

  25. 25

    在 C++ 中读取文件、搜索和显示信息到结构数组时出现问题

  26. 26

    使用fscanf读取C中的坐标时出现问题

  27. 27

    在八度中读取CSV时出现问题

  28. 28

    在python中读取文件时出现的问题

  29. 29

    使用javax createObjectBuilder创建JSON文件时出现问题

热门标签

归档