首页 > 代码库 > Spark HA模式访问Hadoop HA下的数据
Spark HA模式访问Hadoop HA下的数据
首先是需要将hadoop的配置文件core-site,xml和hdfs-site.xml 拷贝到Spark conf目录下
然后启动提交即可
spark-submit --master spark://hadoop-namenode-01:7077,hadoop-namenode-02:7077 \ --class org.apache.spark.examples.SparkPi --deploy-mode cluster --executor-memory 4G --total-executor-cores 10 hdfs://bi/spark-examples-1.6.0-hadoop2.6.4.jar \ 100
Spark HA模式访问Hadoop HA下的数据
声明：以上内容来自用户投稿及互联网公开渠道收集整理发布，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任，若内容有误或涉及侵权可进行投诉： 投诉/举报 工作人员会在5个工作日内联系你，一经查实，本站将立刻删除涉嫌侵权内容。