四川盐亭网站制作公司

如何部署Spark集群

今天就跟大家聊聊有关如何部署Spark集群，可能很多人都不太了解，为了让大家更加了解，小编给大家总结了以下内容，希望大家根据这篇文章可以有所收获。

成都创新互联主营宝兴网站建设的网络公司,主营网站建设方案,成都app软件开发公司,宝兴h5微信平台小程序开发搭建,宝兴网站营销推广欢迎宝兴等地区企业咨询

1. 安装环境简介

硬件环境：两台四核cpu、4G内存、500G硬盘的虚拟机。

软件环境：64位Ubuntu12.04 LTS；主机名分别为spark1、spark2，IP地址分别为1**.1*.**.***/***。JDK版本为1.7。集群上已经成功部署了Hadoop2.2，详细的部署过程可以参见另一篇文档Yarn的安装与部署。

2.  安装Scala2.9.3

1）在/home/test/spark目录下面运行wget http://www.scala-lang.org/downloads/distrib/files/scala-2.9.3.tgz命令，下载scala的二进制包。

    2） 解压下载后的文件，配置环境变量：编辑/etc/profile文件，添加如下内容：

export SCALA_HOME=/home/test/spark/scala/scala-2.9.3 export PATH=$SCALA_HOME/bin

    3）运行source /etc/profile使环境变量的修改立即生效。在spark2上执行相同的操作，安装scala。

3. 下载编译好的spark文件，地址为：http://d3kbcqa49mib13.cloudfront.net/spark-0.8.1-incubating-bin-hadoop2.tgz。下载后解压。

4.配置conf/spark-env.sh环境变量，添加如下内容：

export SCALA_HOME=/home/test/spark/scala/scala-2.9.3

5. 在/etc/profile中配置SPARK_EXAMPLES_JAR以及spark的环境变量：添加如下内容：

export SPRAK_EXAMPLES_JAR=/home/test/spark/spark-0.8.1-incubating-bin-hadoop2/examples/target/scala-2.9.3/spark-examples_2.9.3-assembly-0.8.1-incubating.jar export SPARK_HOME=/home/test/spark/spark-0.8.1-incubating-bin-hadoop2 export PATH=$SPARK_HOME/bin

6. 修改/conf/slaves文件，在文件中添加如下内容：

spark1 spark2

7.使用scp命令将上述文件拷贝到spark节点的相同路径下面scp -rspark-0.8.1-incubating-bin-hadoop2 test@spark2:/home/test/spark：

8. 在spark1上启动spark集群,并检查进程是否成功启动。如下master和worker已经成功启动。

如何部署Spark集群

使用浏览器打开http://1**.**.*.***:8080/，其显示如下所示：

如何部署Spark集群
可以看到集群中的两个slave节点已经成功启动。

9.        运行spark自带的例子：./run-exampleorg.apache.spark.examples.SparkPi spark://master:7077，其结果如下所示：

如何部署Spark集群

在web界面能看到刚才运行的job如下所示：

如何部署Spark集群

看完上述内容，你们对如何部署Spark集群有进一步的了解吗？如果还想了解更多知识或者相关内容，请关注创新互联行业资讯频道，感谢大家的支持。


文章名称：如何部署Spark集群
文章链接：http://scyanting.com/article/isjcpi.html

其他资讯