首页 > 其他 > 详细

Spark基础知识汇总

时间:2016-06-21 19:04:33      阅读:182      评论:0      收藏:0      [点我收藏+]

2,wordcount:

技术分享
val wordcount = sc.textFile("/user/s-44/wordcount.txt").flatMap(_.split(‘ ‘)).map((_, 1)).reduceByKey(_ + _).map(_.swap).sortByKey().collect

val wordcount = sc.textFile("/user/s-44/wordcount.txt").flatMap(_.split(‘ ‘)).map((_, 1)).reduceByKey(_ + _).map(_.swap).sortByKey().saveAsTextFile("/user/s-44/result.txt")
View Code

 

1,集合变成rdd

技术分享
val rdd = sc.parallelize(List(1, 2, 3, 4, 5))
View Code

 

Spark基础知识汇总

原文:http://www.cnblogs.com/yueyebigdata/p/5604667.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!