一、定义:Standalone 模式是一种独立的集群部署模式,自带完整服务,可单独部署到一个集群中,无需依赖任何其他资源管理系统。
二、配置步骤
1.和前面一样拉到hadoop101的/opt/module这个目录里面。
2.压缩
3.重命名为spark-standalone
4.配置环境变量
5.同步环境变量
6.进入/opt/module/spark-standalone/conf这个目录,修改workers.template文件,将后缀名去掉,然后点进去,添加下列内容
7.修改spark-env.sh.template文件,将后缀名去掉,然后点进去,添加下列内容
8.同步设置完毕的Spark目录到其他节点。使用我们之前封装的命令:
xsync /opt/module/spark-standalone/
9.启动SPARK集群。进入到hadoop100机器,切换目录到/opt/module/spark-standalone/sbin下,运行命令 ./start-all.sh。(注意,这里不要省略./)
10.验收效果。通过jps命令去每台机器上查看运行的进程。请观察是否在hadoop101上看到了master,worker在hadoop103,hadoop102上看到了worker。
11.查看启动效果。打开浏览器,输入hadoop100:8080。看到效果如下: