hadoop如何运行mapreduce任务
这篇文章主要为大家展示了“hadoop如何运行mapreduce任务”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“hadoop如何运行mapreduce任务”这篇文章吧。
10年积累的成都做网站、网站设计、外贸营销网站建设经验,可以快速应对客户对网站的新想法和需求。提供各种问题对应的解决方案。让选择我们的客户得到更好、更有力的网络服务。我虽然不认识你,你也不认识我。但先网站制作后付款的网站建设流程,更有安居免费网站建设让你可以放心的选择与我们合作。
通常我的做法在eclipse中编写mapper和reduce类,以及driver类,然后打出jar放在hadoop服务器上运行
用下面的命令运行任务
hadoop aboutMapReduce.MaxTemperature /opt/ncdc/micro/ output
但是
如果没有设置CLASSPATH环境变量的话或者CLASSPATH下找不到aboutMapReduce.MaxTemperature的时候,就报类找不到的错误了错误了
Error: Could not find or load main class aboutMapReduce.MaxTemperature
所以我的做法:
在/etc/profile或者.bash_profile中设置环境变量
HADOOP_CLASSPATH=
CLASSPATH=$CLASSPATH:$HADOOP_CLASSPATH
export HADOOP_CLASSPATH
export CLASSPATH
但是运行上面的命令的时候还应该注意:output目录不应该存在,否则报错
以上是“hadoop如何运行mapreduce任务”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注创新互联行业资讯频道!
标题名称:hadoop如何运行mapreduce任务
URL地址:http://scyanting.com/article/phoohd.html