在hadoop集群上运行MRBenchmark的异常

阿普斯

我已经以分布式方式设置了hadoop,并且它可以正常工作。我一直在尝试按照http://www.michael-noll.com/blog/2011/04/09/benchmarking-and-stress-testing-an-hadoop-cluster-with-中给出的说明运行mrbenchmark terasort-testdfsio-nnbench-mrbench /

但是我得到以下异常, hadoop jar build/hadoop-0.20-test.jar mrbench -numRuns 1 -maps 2 -reduces 1 -inputLines 1 -inputType ascending MRBenchmark.0.0.2 14/03/16 21:37:03 INFO conf.ClientConfigurationUtil: Client configuration lookup disabled/failed. Using default configuration 14/03/16 21:37:04 INFO mapred.MRBench: creating control file: 1 numLines, ASCENDING sortOrder 14/03/16 21:37:04 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 14/03/16 21:37:04 INFO mapred.MRBench: created control file: /benchmarks/MRBench/mr_input/input_1714244267.txt 14/03/16 21:37:04 INFO fs.FileSystem: File /benchmarks/MRBench is being deleted only through Trash. Moved to trash: /benchmarks/MRBench java.lang.NullPointerException at java.util.Hashtable.put(Hashtable.java:514) at java.util.Properties.setProperty(Properties.java:161) at org.apache.hadoop.conf.Configuration.set(Configuration.java:476) at org.apache.hadoop.mapred.JobConf.setJar(JobConf.java:474) at org.apache.hadoop.mapred.MRBench.runJobInSequence(MRBench.java:180) at org.apache.hadoop.mapred.MRBench.run(MRBench.java:289) at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:68) at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:82) at org.apache.hadoop.mapred.MRBench.main(MRBench.java:211) at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57) at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) at java.lang.reflect.Method.invoke(Method.java:606) at org.apache.hadoop.util.ProgramDriver$ProgramDescription.invoke(ProgramDriver.java:68) at org.apache.hadoop.util.ProgramDriver.driver(ProgramDriver.java:139) at org.apache.hadoop.test.AllTestDriver.main(AllTestDriver.java:87) at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57) at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) at java.lang.reflect.Method.invoke(Method.java:606) at org.apache.hadoop.util.RunJar.main(RunJar.java:156)

我正在使用Hadoop版本20.2。

提前致谢。

阿普斯

包括参数-jar并指定示例jar可以解决我的问题(我再次提到了mrbenchmark jar)。

例如。hadoop jar build / hadoop-0.20-test.jar mrbench -numRuns 1 -maps 2 -reduces 1 -inputLines 1 -inputType ascending -jar build / hadoop-0.20-test.jar

即使Benchmark指出参数-jar已初始化为当前的jar,事实并非如此。必须指定-jar参数。

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

在远程Hadoop集群上运行Hadoop测试

来自分类Dev

在远程Hadoop集群上运行Hadoop测试

来自分类Dev

在Hadoop 2上运行作业时无法初始化集群异常

来自分类Dev

Hadoop 集群上的 Wordcount 执行

来自分类Dev

在Slurm集群上运行TensorFlow?

来自分类Dev

在集群上运行R代码

来自分类Dev

h2o 连接到 hadoop 集群上的集群

来自分类Dev

hadoop集群上的gcloud计算权限不足

来自分类Dev

Hadoop集群上的Namenode和Jobtracker信息

来自分类Dev

Hadoop集群上的Kerberos身份验证

来自分类Dev

Windows上没有Hadoop集群的MRUnit

来自分类Dev

在Hadoop安装的集群上使用R

来自分类Dev

Hadoop集群上的Namenode和Jobtracker信息

来自分类Dev

Hadoop:如何正确停用集群上的节点?

来自分类Dev

AWS EMR使集群hadoop.security.AccessControlException异常化

来自分类Dev

在运行hadoop集群时在Google Cloud Platform上获取“ sudo:未知用户:hadoop”和“ sudo:无法初始化策略插件错误”

来自分类Dev

运行hadoop jar时连接拒绝异常

来自分类Dev

运行hadoop jar时连接拒绝异常

来自分类Dev

如何每晚在JEE集群上运行方法

来自分类Dev

无法在Apache Spark集群上运行sparkPi

来自分类Dev

避免丢失在集群上运行的作业的数据

来自分类Dev

Linux在集群上运行每个程序

来自分类Dev

通过ssh在集群上运行qsub

来自分类Dev

在集群上运行多个parpool作业

来自分类Dev

Hadoop,Hive->获取针对集群运行的SQL列表

来自分类Dev

Hive 和 HBase 是否需要运行 Hadoop 集群?

来自分类Dev

试图在Windows上运行hadoop

来自分类Dev

在Mac OS上运行的Hadoop

来自分类Dev

在Hadoop上运行Java程序