首页 > 代码库 > 利用docker 部署 spark项目的端口问题
利用docker 部署 spark项目的端口问题
利用Docker 安装项目:
local模式要设置sparklocal.spark.driver.host
yarn模式中只设置sparklocal.spark.driver.host和可以启动,但是无法执行任何语句,需要再设置
sparkyarn.spark.driver.bindAddress
和 blockmanager
即可,在spark启动时指定对应host和bindaddress,docker指定访问设定的host和bindAddress
和 blockmanager即可
注意:sparkyarn.spark.driver.bindAddress 是spark2.1.0才有的参数,之前是没有的。所以说,在2.1.0之前,spark与docker结合,以上办法行不通。
本文出自 “去买大白兔” 博客,转载请与作者联系!
利用docker 部署 spark项目的端口问题
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。