搜索引擎常用的中文分词的方法有哪些?
中文分词算法可以分为两类。a.第一类是基于字符串匹配,即扫描字符串。如果发现字符串的子字符串与单词相同,则视为匹配。这种分词方法通常会加入一些启发式规则,如“正向/反向最大匹配”、“长词优先”等。该算法具有分块速度快、时间复杂度o(n)、实现简单、效果可接受等优点。也有不足之处,即歧义和生词处理不好。b、第二种是基于统计和机器学习。这种切分是基于人工标注的词性和统计特征,即根据观测数据(标注语料库)估计模型参数,即训练。在分割阶段,利用该模型计算各种分割的概率,以概率最大的分割结果作为最终结果。常见的序列注释模型有hmm和crf。这种分词算法能够很好地处理歧义和未知词,分词效果优于前者,但需要大量的人工标注数据,分词速度慢。
原文标题:vlookup反向匹配 搜索引擎常用的中文分词的方法有哪些?,如若转载,请注明出处:https://www.saibowen.com/wenda/16944.html
免责声明:此资讯系转载自合作媒体或互联网其它网站,「赛伯温」登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述,文章内容仅供参考。