首页 > 其他 > 详细

[Spark]-Streaming-调优

时间:2018-07-15 15:51:26      阅读:131      评论:0      收藏:0      [点我收藏+]

1.概述

  Spark Streaming的主要应用方向是实时计算.这代表一个Spark Streaming应用必然是对执行性能和运行稳定性(7 x 24)有一定要求的

2.性能

  在性能方面,主要是合理的利用的集群资源,设置正确的批处理大小(提升并行度)和减少每个批次的处理时间(计算逻辑优化).以让数据流处理的能像接受一样快

  2.1 调整Spark配置参数

  2.2 数据接收优化

    一个Spark Streaming 应用的开端便是数据接收,那么性能调优的第一步就是保证:数据不会在数据接收器端产生积压.

    2.2.2 设置良好的数据接收器间隔

    2.2.1 提升数据接收的并行度

 

      

[Spark]-Streaming-调优

原文:https://www.cnblogs.com/NightPxy/p/9313524.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!