首页 > 其他 > 详细

统计分词

时间:2018-11-07 18:09:48      阅读:160      评论:0      收藏:0      [点我收藏+]

思想:

     把每个词看成是各个字组成,如果相连的字在不同的文本中出现次数越多,相连的字很可能是一个词

     利用字与字相邻出现的频率反映词的可靠度

buzhou:

    建立统计语言模型

    对句子进行单词划分,然后对划分结果进行概率计算,获得最大概率的分词方式

语言模型:

   长度为m的字符串确定其概率分布为P(w1,w2,.......wm)其中,w1,w2,wm依次表示文本中的各个词语

统计分词

原文:https://www.cnblogs.com/hapyygril/p/9924188.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!