首页 > 其他 > 详细

spark executor 数量

时间:2018-01-04 15:42:36      阅读:233      评论:0      收藏:0      [点我收藏+]

  一.指定spark executor 数量的公式

executor 数量 = spark.cores.max/spark.executor.cores
spark.cores.max 是指你的spark程序需要的总核数
spark.executor.cores 是指每个executor需要的核数


二. 命令示例
spark-submit --class com.cjh.test.WordCount --conf spark.executor.memory=800m --conf spark.executor.cores=2 --conf spark.cores.max=6 my.jar

  

spark executor 数量

原文:https://www.cnblogs.com/chengjunhao/p/8193374.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!