首页 > 代码库 > 【互动问答分享】第17期决胜云计算大数据时代Spark亚太研究院公益大讲堂
【互动问答分享】第17期决胜云计算大数据时代Spark亚太研究院公益大讲堂
“决胜云计算大数据时代”
Spark亚太研究院100期公益大讲堂 【第17期互动问答分享】
Q1:为了加快spark shuffle 的执行速度是否可以把spark_local_dirs 指向一块固态硬盘上面,这样做是否有效果。
可以把spark_local_dirs指向一块固态硬盘上面,这样会非常有效的提升Spark执行速度;
同时想更快的提升Spark运行速度的话可以指定多个Shuffle输出的目录,让Shuffle并行读写磁盘;
Q2:solidation=true只是在同一机器上进行合并对吧
solidation=true是在同一台机器上进行合并;
当进行合并的时候会把属于同一个Reducer的bucket放入同一个文件,这回极大的减少Shuffler文件的数量,提升性能;
Q3:未来spark与hadoop会共存吗
Spark和hadoop会共存, Spark+Hadoop= A winning combination;
并存的时候,Hadoop主要使用HDFS进行数据存储,Spark负责对大数据一体化多元化的计算;
本文出自 “Spark亚太研究院” 博客,请务必保留此出处http://rockyspark.blog.51cto.com/2229525/1565214
【互动问答分享】第17期决胜云计算大数据时代Spark亚太研究院公益大讲堂
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。