首页 > 代码库 > Spark添加/更改集群节点需要修改的配置文件

Spark添加/更改集群节点需要修改的配置文件

笔记:在配置好了spark后,如果需要添加/删除一个结点需要修改如下配置文件

 

cd $HADOOP/etc/hadoop 进入hadoop配置文件夹下

修改 slaves,将对应的节点添加/删除

修改hdfs-site.xml , 修改hdfs副本的数量。

 

cd $SPARK_HOME/conf 进入spark配置文件夹下

修改slaves,将对应的节点添加/删除

修改spark-env.sh ,将SPARK_MASTER_IP=192.168.1.*** 这里的IP为主节点的IP。

Spark添加/更改集群节点需要修改的配置文件