Hadoop 资源管理器将应用程序信息存储多长时间?

padmal.com

我们使用官方 REST api 从 Hadoop 资源管理器中读取各种用户和应用程序的资源使用情况。我们的问题是应用程序历史的持续时间不够长,以至于它为使用的内核、内存和容器返回 -1 值。

我们想延长纱线存储数据的持续时间,但我们不知道在哪里设置值。

TK421

您应该检查您的 mapred-site.xml 并查看mapreduce.jobhistory.max-age-ms. 如中所述:

https://hadoop.apache.org/docs/current/hadoop-mapreduce-client/hadoop-mapreduce-client-core/mapred-default.xml

当历史清理器运行时,早于这么多毫秒的作业历史文件将被删除。默认为 604800000(1 周)。

如果您想读取资源使用情况,您应该考虑使用 Job History 服务器的 Job API 和 Job Counters API。RM REST API 显示的是瞬时使用量而不是累积使用量。

https://hadoop.apache.org/docs/stable/hadoop-mapreduce-client/hadoop-mapreduce-client-hs/HistoryServerRest.html#Job_API

https://hadoop.apache.org/docs/stable/hadoop-mapreduce-client/hadoop-mapreduce-client-hs/HistoryServerRest.html#Job_Counters_API

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

我可以从Web应用程序打开Windows资源管理器窗口吗?

来自分类Dev

节点管理器停止-Hadoop 2.2.0

来自分类Dev

调试通过资源管理器上下文菜单启动的应用程序

来自分类Dev

如何知道应用程序是从控制台还是资源管理器运行的?

来自分类Dev

Azure资源管理器模板网站应用程序设置

来自分类Dev

hadoop map减少IntWritable范围多长时间?

来自分类Dev

Hadoop作业失败,资源管理器无法识别AttemptID

来自分类Dev

如何以新创建的资源管理器进程的子级启动应用程序?

来自分类Dev

如何使用Azure资源管理器模板创建虚拟应用程序/文件夹?

来自分类Dev

如何从Visual Studio应用程序打开“文件资源管理器”窗口并设置位置和大小?

来自分类Dev

.net应用程序在开始挂在进程资源管理器中时被阻止,只有1 MB

来自分类Dev

如何从C#应用程序访问Windows资源管理器上下文菜单?

来自分类Dev

Windows 8-无法将文件从资源管理器中拖放到应用程序上

来自分类Dev

资源管理器崩溃后如何将最小化的应用程序带到托盘中?

来自分类Dev

节点管理器停止-Hadoop 2.2.0

来自分类Dev

在默认的桌面安装中找到文件系统资源管理器应用程序?

来自分类Dev

调试通过资源管理器上下文菜单启动的应用程序

来自分类Dev

将图像文件从资源管理器拖放到应用程序

来自分类Dev

从Web应用程序(java / jsp)端点调用Google api资源管理器方法

来自分类Dev

Windows10-资源管理器在应用程序启动时崩溃

来自分类Dev

应用程序图标在资源管理器中损坏

来自分类Dev

将资源管理器中的文件打开到python应用程序中

来自分类Dev

Hadoop 2.0资源管理器高可用性

来自分类Dev

管理Azure资源管理器存储Powershell

来自分类Dev

使用Microsoft Edge打开Windows资源管理器,而不显示“您是要切换应用程序吗?” 信息

来自分类Dev

Windows资源管理器会记住Windows 7中的文件夹自定义设置多长时间?

来自分类Dev

从我的应用程序的 ListView 拖放到外部应用程序(例如 Windows 资源管理器)

来自分类Dev

Delphi 在哪里存储数据资源管理器连接信息?

来自分类Dev

Hadoop 2.7.7,无法使用端口 8088 打开资源管理器 Web

Related 相关文章

  1. 1

    我可以从Web应用程序打开Windows资源管理器窗口吗?

  2. 2

    节点管理器停止-Hadoop 2.2.0

  3. 3

    调试通过资源管理器上下文菜单启动的应用程序

  4. 4

    如何知道应用程序是从控制台还是资源管理器运行的?

  5. 5

    Azure资源管理器模板网站应用程序设置

  6. 6

    hadoop map减少IntWritable范围多长时间?

  7. 7

    Hadoop作业失败,资源管理器无法识别AttemptID

  8. 8

    如何以新创建的资源管理器进程的子级启动应用程序?

  9. 9

    如何使用Azure资源管理器模板创建虚拟应用程序/文件夹?

  10. 10

    如何从Visual Studio应用程序打开“文件资源管理器”窗口并设置位置和大小?

  11. 11

    .net应用程序在开始挂在进程资源管理器中时被阻止,只有1 MB

  12. 12

    如何从C#应用程序访问Windows资源管理器上下文菜单?

  13. 13

    Windows 8-无法将文件从资源管理器中拖放到应用程序上

  14. 14

    资源管理器崩溃后如何将最小化的应用程序带到托盘中?

  15. 15

    节点管理器停止-Hadoop 2.2.0

  16. 16

    在默认的桌面安装中找到文件系统资源管理器应用程序?

  17. 17

    调试通过资源管理器上下文菜单启动的应用程序

  18. 18

    将图像文件从资源管理器拖放到应用程序

  19. 19

    从Web应用程序(java / jsp)端点调用Google api资源管理器方法

  20. 20

    Windows10-资源管理器在应用程序启动时崩溃

  21. 21

    应用程序图标在资源管理器中损坏

  22. 22

    将资源管理器中的文件打开到python应用程序中

  23. 23

    Hadoop 2.0资源管理器高可用性

  24. 24

    管理Azure资源管理器存储Powershell

  25. 25

    使用Microsoft Edge打开Windows资源管理器,而不显示“您是要切换应用程序吗?” 信息

  26. 26

    Windows资源管理器会记住Windows 7中的文件夹自定义设置多长时间?

  27. 27

    从我的应用程序的 ListView 拖放到外部应用程序(例如 Windows 资源管理器)

  28. 28

    Delphi 在哪里存储数据资源管理器连接信息?

  29. 29

    Hadoop 2.7.7,无法使用端口 8088 打开资源管理器 Web

热门标签

归档