四川盐亭网站制作公司

Hadoop2.6.5分布式集群搭建和测试-创新互联

vmware虚拟机环境：

十堰郧阳ssl适用于网站、小程序/APP、API接口等需要进行数据传输应用场景，ssl证书未来市场广阔！成为创新互联的ssl证书销售渠道，可以享受市场价格4-6折优惠！如果有意向欢迎电话联系或者加微信：028-86922220（备注：SSL证书合作）期待与您的合作！
                192.168.60.128    master
                192.168.60.129    node129
                192.168.60.130    node130

1、修改每台虚拟机的/etc/sysconfig/network和/etc/hosts

#修改hostname：vim /etc/sysconfig/network
#修改hosts内容如下：vim /etc/hosts
                192.168.60.128    master
                192.168.60.129    node129
                192.168.60.130    node130

2、配置三台机器互信(以128机器为例)：

2.1 ssh-keygen -t rsa
2.2 ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop@192.168.60.129
   ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop@192.168.60.130
2.3  剩下的每台机器上都要重复上面的操作

3.安装jdk和配置环境变量

分别在每台主机上安装jdk，并配置环境变量。（嫌麻烦的前面可以安装完jdk后再克隆）

1）下载jdk安装包（自行百度），并将安装包拖入到虚拟机当中

2）通过cd命令进入到安装包的当前目录，利用如下命令进行解压缩。

tar -zxvf jdk.....(安装包名称)

3）利用如下命令将解压后的文件夹移到/usr目录下　

#注意，这样移动到/usr以后就没有jdk1.8...这个目录了，是将这个目录下的所有文件全部移动到/usr/java下，mv jdk1.8...(文件夹名称) /usr/java

4）配置环境变量

sudo vim /etc/profile

在末尾加上四行：

  1. #java

    export JAVA_HOME=/usr/java

    export JRE_HOME=/usr/java/jre

    export CLASSPATH=$JAVA_HOME/lib

    export PATH=:$PATH:$JAVA_HOME/bin:$JRE_HOME/bin

输入如下命令使配置生效：source /etc/profile

4.master配置hadoop,然后将master的hadoop文件传送给node节点

1）解包移动

#解压hadoop包  
tar -zxvf hadoop...  
#将安装包移到/home/hadoop目录下  
mv hadoop... /home/hadoop/hadoop

2）新建文件夹

#在/home/hadoop目录下新建如下目录  
mkdir dfs  
mkdir dfs/name  
mkdir dfs/data  
mkdir tmp

修改JAVA_HOME值（export JAVA_HOME=/usr/java）

4)配置文件：yarn-env.sh

修改JAVA_HOME值（export JAVA_HOME=/usr/java）

5)配置文件：slaves

将内容修改为：

node129
node130

6)配置文件：core-site.xml

    

        fs.defaultFS

        hdfs://master:9000

    

    

        io.file.buffer.size

        131072

    

    

        hadoop.tmp.dir

        file:/home/hadoop/tmp

        Abase for other temporary directories.

    

7)配置文件：hdfs-site.xml

    

      dfs.namenode.secondary.http-address

      master:9001

    

   

      dfs.namenode.name.dir

      file:/home/hadoop/dfs/name

    

    

      dfs.datanode.data.dir

      file:/home/hadoop/dfs/data

    

    

      dfs.replication

      2

    

    

      dfs.webhdfs.enabled

      true

    

8)配置文件：mapred-site.xml

先创建然后编辑

 cp etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml


  

mapreduce.framework.name

      yarn

  

  

      mapreduce.jobhistory.address

    master:10020

  

  

      mapreduce.jobhistory.webapp.address

      master:19888

  

9)配置文件：yarn-site.xml

   

       yarn.nodemanager.aux-services

       mapreduce_shuffle

   

   

        yarn.nodemanager.aux-services.mapreduce.shuffle.class

        org.apache.hadoop.mapred.ShuffleHandler

   

   

        yarn.resourcemanager.address

        master:8032

   

   

        yarn.resourcemanager.scheduler.address

        master:8030

   

   

        yarn.resourcemanager.resource-tracker.address

        master:8031

      

   

        yarn.resourcemanager.admin.address

        master:8033

   

   

        yarn.resourcemanager.webapp.address

        master:8088

   

10)将hadoop传输到node129和node130 /home/hadoop目录

 scp -r /home/hadoop/hadoop hadoop@node129:/home/hadoop
 scp -r /home/hadoop/hadoop hadoop@node130:/home/hadoop
5、配置环境变量，并启动hadoop，检查是否安装成功
1）配置环境变量
#编辑/etc/profile
sudo vim /etc/profile
#以上已经添加过java的环境变量,在后边添加就可以
export HADOOP_HOME=/home/hadoop/hadoop
export PATH=$PATH:$HADOOP_HOME/sbin
export PATH=$PATH:$HADOOP_HOME/bin

执行

source /etc/profile

使文件生效。

2）启动hadoop,进入hadoop安装目录

bin/hdfs namenode -format
sbin/start-all.sh

3)启动后分别在master, node下输入jps查看进程

看到下面的结果，则表示成功。

Master:

Hadoop2.6.5分布式集群搭建和测试

node:

Hadoop2.6.5分布式集群搭建和测试

6.向hadoop集群系统提交第一个mapreduce任务(wordcount)

1、  hdfs dfs -mkdir -p /data/input在虚拟分布式文件系统上创建一个测试目录/data/input

2、 hdfs dfs -put README.txt  /data/input 将当前目录下的README.txt 文件复制到虚拟分布式文件系统中

3、  hdfs dfs-ls /data/input   查看文件系统中是否存在我们所复制的文件

4、 运行如下命令向hadoop提交单词统计任务

进入jar文件目录，执行下面的指令。

hadoop jar /home/hadoop/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar wordcount /data/input /data/output/result

查看result，结果在result下面的part-r-00000中

hdfs dfs -cat /data/output/result/part-r-00000

Hadoop2.6.5分布式集群搭建和测试

自此，hadoop集群搭建成功！

另外有需要云服务器可以了解下创新互联scvps.cn，海内外云服务器15元起步，三天无理由+7*72小时售后在线，公司持有idc许可证，提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案，具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势，专为企业上云打造定制，能够满足用户丰富、多元化的应用场景需求。


新闻标题：Hadoop2.6.5分布式集群搭建和测试-创新互联
分享链接：http://scyanting.com/article/dopigd.html

其他资讯