centos6.5安装hadoop集群-创新互联
环境准备:4台机器
目前创新互联公司已为近1000家的企业提供了网站建设、域名、雅安服务器托管、绵阳服务器托管、企业网站设计、武邑网站维护等服务,公司将坚持客户导向、应用为本的策略,正道将秉承"和谐、参与、激情"的文化,与客户和合作伙伴齐心协力一起成长,共同发展。192.168.217.174 node1 -----namenode
192.168.217.175 node2 -----secondary namenode
192.168.217.176 node3 -----datanode
192.168.217.177 node4 -----datanode
1. 4台机器免密码登录
1.1-先在node1机器上做免密码
在每天机器vim /etc/hosts中互相添加对方的ip和机器名
192.168.217.174 node1
192.168.217.175 node2
192.168.217.176 node3
192.168.217.177 node4
#ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa 1. 注:生成密钥
#cat ~/.ssh/id_dsa.pub >>~/.ssh/authorized_keys 2.注:密钥写入认证机制
1.2-其他3台机器做免密码
把在node1机器生成的公钥拷贝到其他3台机器,最后在放入每天机器的认证机制
#scp ./id_dsa.pub root@node(2,3,4):/opt/ #在node1上操作
#ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa #3台机器都执行这条命令
#cat/opt/id_dsa.pub >> ~/.ssh/authorized_keys #3台机器都执行这条命令
拷贝遇到问题:
bash: scp:command not found #yum install openssh-clients 4台都装
2.开始安装
2.1-安装JDK:------------4台都安装
#上传jdk-7u79-linux-x64.rpm到/home目录
#rpm –ivh jdk-7u79-linux-x64.rpm
#cd /home/hadoop-2.5.1
# vim~/.bash_profile 添加环境变量
export PATH
export JAVA_HOME=/usr/java/jdk1.7.0_79
exportPATH=$PATH:$JAVA_HOME/bin
exportHADOOP_HOME=/home/hadoop-2.5.1
exportPATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
# source ~/.bash_profile
2.2-安装hadoop
#上传hadoop-2.5.1_x64.tar.gz到/home目录 【在node1操作】
#tar zxvfhadoop-2.5.1_x64.tar.gz
#vim /home/hadoop-2.5.1/etc/hadoop/hadoop-env.sh #namenode主机名
exportJAVA_HOME=/usr/java/jdk1.7.0_79/ (添加)
#vim /home/hadoop-2.5.1/etc/hadoop/core-site.xml
#vim /home/hadoop-2.5.1/etc/hadoop/hdfs-site.xml
#vim /home/hadoop-2.5.1/etc/hadoop/slaves # 配置datanode主机名
node2
node3
node4
#vim masters # 创建配置secondary namenode主机名
node2
#rm -rf hadoop-2.5.1/share/doc/ 删除这个目录方便拷贝给其他机器
2.3-拷贝给其他机器
在/home目录下
#scp -r hadoop-2.5.1 root@node(234):/home/
在/home/hadoop-2.5.1
# scp~/.bash_profile root@node(234):/root/
启动之前先格式化hdfs文件系统
# hdfs namenode-format 只能在指定的namenode(node1)机器上用
#start-dfs.sh 在任何目录下都可以启动
浏览器访问:192.168.217.174:50070
(如果不能打开,就关闭防火墙# serviceiptables stop)
到此,hadoop集群安装完毕
另外有需要云服务器可以了解下创新互联cdcxhl.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。
网页题目:centos6.5安装hadoop集群-创新互联
标题URL:http://scyanting.com/article/ddsods.html