linux分词排序统计,浅谈搜索引擎百度分词技术

scottlinn为了让大家更好的理解如何去选择关键字词&＃xff0c;特意做了一些分词测试试验&＃xff0c;归纳了一些关于搜索引擎百度分词的经验向大家分享。希望可以帮助站长们更深层的理解搜索引擎分词技术&＃xff0c;做好自己的网站&＃xff0c;获得更好的排名。

搜索引擎中文分词技术简单来说&＃xff0c;就是把中文的汉字序列切分成有意义的词组。

分词例子&＃xff1a;我/是/一个/学生

二、搜索引擎分词技术简述

1.基于字符串匹配的分词方法

按照一定的策略将待分析的汉字串与一个极其词库中的词条进行匹配。

常用分词的方法&＃xff1a;

正向最大匹配法(由左到右的方向)

分词测试例子&＃xff1a;我/有意/见/分歧

反向最大匹配法(由右到左的方向)

分词测试例子&＃xff1a;我/有/意见/分歧

据大量测试数据统计结果表明&＃xff1a;单纯使用正向最大匹配的错误率为1/169&＃xff0c;单纯使用反

向最大匹配的错误率为1/245。逆向匹配的切分精度略高于正向匹配。

2.基于统计的分词方法

相邻的字同时出现的次数越多&＃xff0c;就越有可能构成一个词。用于系统自动识别新词。

3.基于理解的分词方法

在分词的同时进行句法、语义分析&＃xff0c;利用句法信息和语义信息来处理歧异现象。

1.最大分词词长

分词测试查询&＃xff1a;当然以

分词技术归纳&＃xff1a;少于等于3个中文字不切割

分词测试查询&＃xff1a;电影下载

分词技术归纳&＃xff1a;对于大于等于4个汉字的词将被分词

分词测试查询&＃xff1a;查询&＃xff1a;“工地方向导”

正向最大匹配&＃xff1a;工地/方向/导

反响最大匹配&＃xff1a;工/地方/向导

百度采用 正向最大匹配算法

分词测试查询&＃xff1a;×××安定军山

正向最大匹配&＃xff1a;×××/安定/军/山

百度分词结果&＃xff1a;×××/安/定军山

分词结论&＃xff1a;百度识别人名、影视、戏剧名等专用词&＃xff0c;转用词库分词时优先。

分词测试查询&＃xff1a;何润东西南北(“何润东”、“东西南北”两个词)

正向最大匹配&＃xff1a;何润东/西/南北

分词技术归纳&＃xff1a;首先用专用词典采用最大正向匹配分词&＃xff0c;切出部分结果;剩余没有切分交给普通词典&＃xff0c;同样采取正向最大匹配分词。

关于搜索引擎分词技术&＃xff0c;scottlinn这次就先写到这。但是搜索引擎的分词技术远远不止这些&＃xff0c;分词中的一些难题&＃xff0c;如歧义识别、新词识别、拼写检查错误提示、拼音提示功能、相关搜索提示等深一些的日后有机会再向大家一一介绍。