首页 > 其他 > 详细

综合练习:词频统计

时间:2018-03-27 17:43:12      阅读:160      评论:0      收藏:0      [点我收藏+]

综合练习

词频统计预处理

下载一首英文的歌词或文章

将所有,.?!’:等分隔符全部替换为空格

将所有大写转换为小写

生成单词列表

生成词频统计

排序

排除语法型词汇,代词、冠词、连词

输出词频最大TOP20

将分析对象存为utf-8编码的文件,通过文件读取的方式获得词频分析内容。

f=open("file.txt","r")
news=f.read()
f.close()
sep=‘‘‘,().;--‘‘‘
exclude={the,to,and,of,in,for,on,a,when,as,not,with,that}
for c in sep:
    news = news.replace(c,‘‘)
wordList=news.lower().split()
wordDict={}
wordSet=set(wordList)-exclude
for w in wordSet:
    wordDict[w]=wordList.count(w)
dictList = list(wordDict.items())
dictList.sort(key=lambda x:x[1],reverse=True)
for i in range(20):
    print(dictList[i])

技术分享图片

 

综合练习:词频统计

原文:https://www.cnblogs.com/932zdb/p/8658551.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!