首页 > 代码库 > Spark sql 在yarn-cluster模式下找不到表
Spark sql 在yarn-cluster模式下找不到表
在hive里建一个数据库test,在数据库里建了一张表user,然后在Spark程序中使用Spark sql读取这张表
"select * form test.user"
当部署模式是spark stand模式和yarn-client模式时,程序可以正常运行,但yarn-cluster模式就报了找不到“test.user”表的错误。
解决办法:
spark和hive整合,把hive-site.xml加到spark根目录的conf下,所以,要在提交Spark任务的时候,要把hive-site.xml加到--files
示例:spark版本是2.0.1
spark-submit --class cn.XXX.XX.XXX --master yarn --deploy-mode cluster --executor-memory 5g --num-executors 5 --files /data/hive-1.2.1/conf/hive-site.xml test.jar
参考:
http://blog.csdn.net/baiyangfu_love/article/details/40402743
在yarn-cluster模式下,原本在设置好的应用名就不生效,这个加--name参数解决:
spark-submit --class cn.XXX.XX.XXX --master yarn --deploy-mode cluster --executor-memory 5g --num-executors 5 --name test --files /data/hive-1.2.1/conf/hive-site.xml test.jar
导致这个问题的主要原因是,yarn-client和yarn-cluster模式在提交任务时setAppName的执行顺序不同导致,yarn-client中setAppName是在向yarn注册Application之前读取,yarn-cluser模式则是在向yarn注册Application之后读取,这就导致yarn-cluster模式设置的应用名不生效。
参考:http://support.hwclouds.com/usermanual-mrs/zh-cn_topic_0036027341.html
Spark sql 在yarn-cluster模式下找不到表
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。