首页 > 其他 > 详细

【Spark亚太研究院系列丛书】Spark实战高手之路-第3章Spark架构设计与编程模型第3节:Spark架构设计(2)

时间:2014-12-26 14:21:25      阅读:334      评论:0      收藏:0      [点我收藏+]

三,深入RDD

 

RDD本身是一个抽象类,具有很多具体的实现子类:

 

技术分享

RDD都会基于Partition进行计算:

 

技术分享

默认的Partitioner如下所示:

技术分享

其中HashPartitioner的文档说明如下:

技术分享

另外一种常用的Partitioner是RangePartitioner:

技术分享

RDD在持久化的需要考虑内存策略:

技术分享

Spark提供很多StorageLevel可供选择:

技术分享

于此同时Spark提供了unpersistRDD:

技术分享

对RDD本身还有一个非常重要的CheckPoint操作:

技术分享

其中doCheckpoint的细节如下:

技术分享

NewHadoopRDD为例,其内部的信息如下所示:

技术分享

WholeTextFileRDD为例,其内部的信息如下所示:

技术分享

RDD在产生作业调用的时候,经典的过程如下所示:

技术分享

【Spark亚太研究院系列丛书】Spark实战高手之路-第3章Spark架构设计与编程模型第3节:Spark架构设计(2)

原文:http://www.cnblogs.com/spark-china/p/4186528.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!