首页 > 其他 > 详细

04 RDD编程练习

时间:2021-04-01 00:18:50      阅读:17      评论:0      收藏:0      [点我收藏+]

一、filter,map,flatmap练习:

1.读文本文件生成RDD lines

技术分享图片

 

2.将一行一行的文本分割成单词 words

 技术分享图片

 

 3.全部转换为小写

技术分享图片

 

 4.去掉长度小于3的单词

技术分享图片

 

 5.去掉停用词

技术分享图片

 

 

二、groupByKey练习 

6.生成单词键值对

技术分享图片

 

 7..对单词进行分组

技术分享图片

8.查看分组结果

技术分享图片

 

 

学生科目成绩文件练习:

0.数据文件上传

1.读大学计算机系的成绩数据集生成RDD

技术分享图片

 技术分享图片

 

 2.按学生汇总全部科目的成绩

技术分享图片

 

 

3.按科目汇总学生成绩

技术分享图片

技术分享图片

 

04 RDD编程练习

原文:https://www.cnblogs.com/yt10179705/p/14603426.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!