四川盐亭网站制作公司

hadoop安装配置会遇到什么问题

这篇文章主要为大家展示了“hadoop安装配置会遇到什么问题”，内容简而易懂，条理清晰，希望能够帮助大家解决疑惑，下面让小编带领大家一起研究并学习一下“hadoop安装配置会遇到什么问题”这篇文章吧。

创新互联公司是一家以网站建设、网页设计、品牌设计、软件运维、成都网站营销、小程序App开发等移动开发为一体互联网公司。已累计为集装箱等众行业中小客户提供优质的互联网建站和软件开发服务。

使用环境：

ubuntu14.04  64位系统

java7

hadoop 2.4.1

几个注意点

1、下载hadoop官网链接不可用，所以在开源中国下载

2、在下列场合务必使用同一个linux帐号权限下操作，我由于习惯与sudo创建配置文件和进行操作，出现一些问题

  • 格式化hdfs

  • ssh无密码登录帐号

  • 新建编辑配置文件

  • 启动hadoop等

3、hadoop要小心版本差异所带来的问题，选择适当的教材，比如hadoop1.x和2.x相比，2.x没有JobTracker和TaskTracker

几个问题：

问题1、localhost: Error: JAVA_HOME is not set and could not be found.

    修改hadoop目录下/hadoop/etc/hadoop/hadoop-env.sh中的 $JAVA_HOME为绝对路径

# The java implementation to use.
#export JAVA_HOME=${JAVA_HOME}
export JAVA_HOME=/usr/lib/jvm/java7

问题2、出现本地库无法导入，据说是64位机器会出现

    错误如下：

This script is Deprecated. Instead use stop-dfs.sh and stop-yarn.sh  
14/08/10 07:07:57 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable  
Stopping namenodes on [Java HotSpot(TM) 64-Bit Server VM warning: You have loaded library /home/hadoop/hadoop-2.2.0/lib/native/libhadoop.so.1.0.0 which might have disabled stack guard. The VM will try to fix the stack guard now.  
It's highly recommended that you fix the library with 'execstack -c ', or link it with '-z noexecstack'.  
cluster1]  
sed: -e expression #1, char 6: unknown option to `s'  
-c: Unknown cipher type 'cd'  
^Ccluster1: stopping namenode  
cluster1: stopping datanode  
VM: ssh: Could not resolve hostname VM: Name or service not known  
stack: ssh: Could not resolve hostname stack: Name or service not known

   解决办法，在hadoop-env.sh修改如下变量，我直接是加在文件末尾

export HADOOP_HOME=/data/server/hadoop
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"

问题3、sbin/start-all.sh启动时只有jps只有一个NodeManager问题？

nob@hadoop0:/data/server/hadoop/sbin$ jps
9922 NodeManager
10236 Jps

 原因：我格式化hdfs的时候使用了超级管理员sudo命令，启动的时候用户权限不一致

问题4、sbin/start-all.sh 启动后使用jps查看没有JobTracker和TaskTracker？

nob@hadoop0:/data/server/hadoop/sbin$ jps
9444 DataNode
9922 NodeManager
9633 SecondaryNameNode
9790 ResourceManager
9291 NameNode
10236 Jps

   原因是： hadoop-2.x版本中不存在JobTracker和TaskTracker，可以参考博客 http://blog.csdn.net/skywalker_only/article/details/37905463，启动NameNode和DataNode的命令为start-dfs.sh，启动yarn的命令为start-yarn.sh。

以上是“hadoop安装配置会遇到什么问题”这篇文章的所有内容，感谢各位的阅读！相信大家都有了一定的了解，希望分享的内容对大家有所帮助，如果还想学习更多知识，欢迎关注创新互联行业资讯频道！


网页题目：hadoop安装配置会遇到什么问题
URL标题：http://scyanting.com/article/gsgepp.html

其他资讯