Hadoop Mapreduce计数器

KD157

任何人都可以详细解释以下文件系统计数器的含义吗?

  • FILE_BYTES_READ
  • FILE_BYTES_WRITTEN
  • FILE_READ_OPS
  • FILE_LARGE_READ_OPS
  • FILE_WRITE_OPS
  • HDFS_BYTES_READ
  • HDFS_BYTES_WRITTEN
  • HDFS_READ_OPS
  • HDFS_LARGE_READ_OPS
  • HDFS_WRITE_OPS
钦纳克里希纳

FILE_BYTES_READ本地文件系统读取的字节数假设所有地图输入数据都来自HDFS,那么在地图阶段,FILE_BYTES_READ应该为零。另一方面,reduce的输入文件是reduce侧本地磁盘上的数据,这些数据是从map侧磁盘获取的。因此,FILE_BYTES_READ表示减速器读取的总字节数。

FILE_BYTES_WRITTEN由两部分组成。第一部分来自映射器。所有映射器都会将中间输出溢出到磁盘上。映射器写入磁盘的所有字节将包含在FILE_BYTES_WRITTEN中。第二部分来自减速器。在改组阶段,所有化简器将从映射器获取中间数据,并合并并溢出到化简器侧磁盘。减速器写入磁盘的所有字节也将包含在FILE_BYTES_WRITTEN中。

HDFS_BYTES_READ表示作业开始时映射器从HDFS读取的字节。该数据不仅包括源文件的内容,还包括有关拆分的元数据。

HDFS_BYTES_WRITTEN表示写入HDFS的字节。它是最终输出的字节数。

读取操作-读取操作的数量,例如listStatus,getFileBlockLocations,open等。

写操作-写操作的数量,例如create,append,setPermission等。

http://comphadoop.weebly.com/experiment-and-results.html

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

使用Hadoop计数器-多个作业

来自分类Dev

如何通过API访问Hadoop计数器值?

来自分类Dev

Hadoop中自定义计数器的备用文本

来自分类Dev

如何通过API访问Hadoop计数器值?

来自分类Dev

Hadoop,线程“主”中的MapReduce自定义Java计数器异常java.lang.IllegalStateException:状态为DEFINE而不是RUNNING的作业

来自分类Dev

我可以在Hadoop的重做器中依赖mapper的计数器吗?

来自分类Dev

如何在GridGain In-Memoru加速器中获取Hadoop内置计数器?

来自分类Dev

Java MapReduce计数器-Oozie

来自分类Dev

MapReduce 应用程序计数器输出 1

来自分类Dev

hadoop中的数据包计数(使用Mapreduce)

来自分类Dev

Hadoop MapReduce:MapTasks与Mapper

来自分类Dev

Hadoop Mapreduce后的查询

来自分类Dev

MapReduce Apache Hadoop技术

来自分类Dev

hadoop倒置索引计数

来自分类Dev

单词计数示例hadoop

来自分类Dev

相当于Hadoop中的MapReduce中的“控制器”

来自分类Dev

Hadoop MapReduce:精简Reducer的数量

来自分类Dev

hadoop MapReduce exception with multiple nodes

来自分类Dev

hadoop mapreduce反之亦然

来自分类Dev

Hadoop MapReduce | python中的SMA

来自分类Dev

在hadoop mapreduce中读取参数

来自分类Dev

Hadoop MapReduce读写序列文件

来自分类Dev

表加入MapReduce-Hadoop

来自分类Dev

Hadoop MapReduce总排序字数

来自分类Dev

Hadoop MapReduce WordCount示例缺陷?

来自分类Dev

Hadoop mapReduce编程错误异常

来自分类Dev

Hadoop MapReduce不写输出

来自分类Dev

hadoop:无法运行mapreduce作业

来自分类Dev

hadoop集群中的Mapreduce执行