hadoop伪分布式如何搭建

这篇文章将为大家详细讲解有关hadoop伪分布式如何搭建,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。

在淮安区等地区,都构建了全面的区域性战略布局,加强发展的系统性、市场前瞻性、产品创新能力,以专注、极致的服务理念,为客户提供网站建设、成都网站建设 网站设计制作定制网站制作,公司网站建设,企业网站建设,成都品牌网站建设,全网营销推广,外贸网站制作,淮安区网站建设费用合理。

首先需要配置JDK,大家可以从网上找到许多教程。

个人感觉是,在Linux下配置环境,最重要的是掌握shell的一些命令及其格式,不然可能遇到各种命令格式上的错误,耽误大量的时间。

1 下载的 jdk 1.7 ,存放到 “ /home/sr/setup/java-jdk-1.8/”目录。下载的文件是 ” jdk-8u65-linux-x64.tar.gz”,java jdk 的版本常常有更新,次版本号有可能 更高一点。

2 "sudo su -"       ps:这里我用的是“sudo -i”
切换到 root 用户,参考 ” man sudo”。这个命令会切换到 root 用户,也就是最高权限的用户。因为后面要执行的
jdk 安装操作是在/usr/local 目录下进行的,用 root 用户更方便。

3 "cd /usr/local/lib"

4 "tar -zxvf /home/sr/setup/java-jdk-1.8/jdk-8u65-linux-x64.tar.gz"  ps: sr是作者的用户名,请改成自己的!
tar 是 linux 下的打包和解压命令行工具,具体细节可以参考 ” man tar” 。这个命令将 jdk-8u65-linux-x64.tar.gz 压缩包解压到当前目录下。解压缩完毕之后,执行"ls",能看到当前目录下有一个新目录叫"jdk 1.8.0_65"

5 配置环境变量:4.5.1 “gedit /etc/profile”
gedit 是 linux 下类似 Windoes 的记事本的编辑器,文件/etc/profile 是 linux 下的配置文件。本命令会打开这个
配置文件,以备编辑。

6 添加配置
在/etc/profile 文件末尾加上如下的三行代码:  ps:注意更改自己的JDK版本
export JAVA_HOME=/usr/local/lib/jdk1.8.0_65  
export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$PATH:$JAVA_HOME/bin

7  "source /etc/profile"使配置立即生效

8 "java -version"
这条命令检查 jdk 安装是否成功。

其次,下载hadoop2.7.1放到” /home/sr/setup/hadoop”目录

hadoop stable版下载链接:

http://mirror.esocc.com/apache/hadoop/common/stable/

1 "su sr"
su 命令,切换用户。安装 jdk 用的是 root 用户。现在切回 sr 用户。

2 "mkdir -p ~/usr/hadoop"创建 Hadoop 的安装目录

3 "cd ~/usr/hadoop"

4 "tar -xvzf ~/setup/hadoop/hadoop-2.7.1.tar.gz"解压缩完毕后,就有目录~/usr/hadoop/hadoop-2.7.1,这是 hadoop 的主目录

5 配置伪分布式 hadoop:

配置文件在~/usr/hadoop/hadoop-2.7.1/etc/hadoop目录下
 将 core-site.xml 文件内容修改成如下:  ps:注意是在  中间添加

fs.default.name
hdfs://localhost:9000


将 mapred-site.xml 文件内容修改如下:


mapred.job.tracker
localhost:9001


 将 hdfs-site.xml 文件内容修改如下:


dfs.replication
1

在 hadoop-env.sh 文件里添加如下一条语句:
export JAVA_HOME=/usr/local/lib/jdk 1.8.0_65

6 "sudo apt-get install ssh rsync"这条命令安装 ssh 和 rsync。 ssh 是一个很著名的安全外壳协议 Secure Shell Protocol。 rsync 是文件同步命令行工具。

7 "ssh-keygen -t dsa -f ~/.ssh/id_dsa"执行这条命令生成 ssh 的公钥/私钥,执行过程中,会一些提示让输入字符,直接一路回车就可以。

8 "cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys"ssh 进行远程登录的时候需要输入密码,如果用公钥/私钥方式,就不需要输入密码了。上述方式就是设置公钥/私钥登录。

9 “ssh localhost”第一次执行本命令,会出现一个提示,输入 ” yes”然后回车即可。

10 "cd ~/usr/hadoop/hadoop-2.7.1"

11 "./bin/hadoop namenode -format"格式化 NameNode。

12 "./sbin/start-all.sh"启动所有节点,包括 NameNode, SecondaryNameNode, JobTracker, TaskTracker, DataNode。

13 “jps”检查各进程是否运行,这时,应该看到有 6 个 java 虚拟机的进程,分别是 Jps, NameNode, SecondaryNameNode,DataNode, JobTracker, TaskTracker,看到 6 个是对的,表明启动成功。如果提示 ” jps”没安装或者找不到,执行一次 ” source /etc/profile”即可。

最后,一起来运行wordcount:

1  "cd ~/usr/hadoop/hadoop-2.7.1"

2 “bin/hadoop fs -mkdir /input”HDFS下创建input文件夹

3 “bin/hadoop fs -put LICENSE.txt  /input”将LICENSE.txt放入文件夹

4“bin/hadoop fs -ls /input”显示input中内容

5“bin/hadoop fs -cat /input/LICENSE.txt”查看文件内容

6“bin/hadoop jar /home/sr/usr/hadoop/hadoop-2.7.1/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.1.jar wordcount /input /output”运行并输出 PS:请注意绝对路径!

关于“hadoop伪分布式如何搭建”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。


文章标题:hadoop伪分布式如何搭建
文章来源:http://scyanting.com/article/peisoj.html