《一剑传媒》中文分词技术在搜索营销中的用途+定制礼品YC

中文分词技术在搜索营销中的用途

周口百惠礼品/文

以后我们一剑传媒网商在线培训百人团会逐渐进入比较繁杂的搜索技术阶段，陈老师又给我们讲了一个小问题，“中文分词技术”，完了更多的是需要大家多理解实践。

什么是分词技术？

分词技术是搜索引擎针对用户提交查询的关键串进行的查询处理后，根据用户的关键词串用各种匹配方法进行的一种技术，分词技术早研究发明的是谷歌，也是成熟的技术。

中文分词技术大家应该都清楚是不同于英文的，虽然谷歌是分词技术的创始者，但在中文比之英文要复杂得多，有多种语义，所以中文分词技术这方面是百度领先。

信息的飞速增长，使搜索引擎成为人们查找信息的工具google、百度、等大型搜索引擎一直是人们讨论的话题。随着搜索市场价值的不断增加，越来越多的公司开发出自己的搜索引擎，阿里巴巴的商机搜索、8848的购物搜索等也陆续面世自然，搜索引擎技术也成为技术人员关注的热点。

搜索引擎发展至今，已经有十几年的历史，而国内开始研究搜索引擎是在上世纪末本世纪初。在许多领域，都是国外的产品和技术一统天下，特别是当某种技术在国外研究多年而国内才开始的情况下例如操作系统、字处理软件、浏览器等等，虽然在国外搜索引擎技术早就开始研究，但在国内还是陆续涌现出的搜索引擎，目前在中文搜索引擎领域，国内的搜索引擎已经和国外的搜索引擎效果上相差不远。之所以能形成这样的局面，有一个重要的原因就在于中文和英文两种语言自身的书写方式不同，这其中对于计算机涉及的技术就是中文分词。

什么是中文分词

众所周知，英文是以词为单位的，词和词之间是靠空格隔开，众所周知，英文是以词为单位的，词和词之间是靠空格隔开，而中文是以字为单位，句子中所有的字连起来才能描述一个意思。例如，英文句子i am a student，用中文则为：“我是一个学生”。计算机可以很简单通过空格知道student是一个单词，但是不能很容易明白“学”、“生”两个字合起来才表示一个词。把中文的汉字序列切分成有意义的词，就是中文分词，有些人也称为切词。我是一个学生，分词的结果是：我 是 一个 学生。

中文分词和搜索引擎

中文分词到底对搜索引擎有多大影响？对于搜索引擎来说重要的并不是找到所有结果，因为在上百亿的网页中找到所有结果没有太多的意义，没有人能看得完。重要的是把相关的结果排在前面，这也称为相关度排序。

中文分词的准确与否，常常直接影响到对搜索结果的相关度排序。大家看看，如果不懂中文分词技术，我们在设置标题时可是会吃亏的哦，呵呵！

举个例子在早期，搜索引擎的分词技术不成熟，如果我们发布”乒乓球拍卖完了“大家说说，搜索引擎也许会给我们分类在哪里搜索呈现里明白的说说。乒乓球拍卖完了，也许会分在乒乓球拍     卖完了，还会分在乒乓球  拍卖完了，两种意思截然不同。掌握搜索引擎的分词技术

很重要。

中文分词技术

中文分词技术属于自然语言处理技术范畴，对于一句话，人可以通过自己的知识来明白哪些是词，哪些不是词，但如何让计算机也能理解？其处理过程就是分词算法。

现有的分词算法可分为三大类：

基于字符串匹配的分词方法，基于理解的分词方法，基于统计的分词方法。

1、基于字符串匹配的分词方法，这种方法又叫做机械分词方法，它是按照一定的策略，将待分析的汉字串与一个“充分大的”机器词典中的词条进行匹配。若在词典中找到某个字符串，则匹配成功（识别出一个词）。按照扫描方向的不同，串匹配分词方法可以分为正向匹配，这就是大家说的从前到后。逆向匹配，这就是大家说的从右到左，按照不同长度优先匹配的情况，可以分为大（长）匹配和小（短）匹配。按照是否与词性标注过程相结合，又可以分为单纯分词方法，分词与标注相结合的一体化方法。

常用的几种机械分词方法如下：

1）正向大匹配法（由左到右的方向）；

2）逆向大匹配法（由右到左的方向）；

3）少切分（使每一句中切出的词数小）。

还可以将上述各种方法相互组合。例如，可以将正向大匹配方法和逆向大匹配方法结合起来，构成双向匹配法，由于汉语单字成词的特点，正向小匹配和逆向小匹配一般很少使用。一般说来，逆向匹配的切分精度略高于正向匹配，遇到的歧义现象也较少。

比如主席与中将一起吃饭。中将在这里是个名词，人在吃饭的过程中将会噎住。这里的中将意思就不一样了。这就是歧义

早期的搜索引擎，出现类似的搜索呈现误差很多，现在几率比较低，统计结果表明，单纯使用正向大匹配的错误率为1/169，

单纯使用逆向大匹配的错误率为1/245。

但这种精度还远远不能满足实际的需要。实际使用的分词系统

都是把机械分词作为一种初分手段，还需通过利用各种其它的语言信息来进一步提高切分的准确率。一种方法是改进扫描方式，称为特征扫描或标志切分，优先在待分析字符串中识别和切分出一些带有明显特征的词，

以这些词作为断点，可将原字符串分为较小的串再来进机械分词

从而减少匹配的错误率，另一种方法是将分词和词类标注结合起来利用丰富的词类信息对分词决策提供帮助。并且在标注过程中又反过来对分词结果进行检验、调整，从而极大地提高切分的准确率。

实际使用的分词系统，都是把机械分词作为一种初分手段。还需通过利用各种其它的语言信息来进一步提高切分的准确率。一种方法是改进扫描方式，称为特征扫描或标志切分，优先在待分析字符串中识别和切分出一些带有明显特征的词，以这些词作为断点，可将原字符串分为较小的串再来进机械分词，从而减少匹配的错误率。另一种方法是将分词和词类标注结合起来，利用丰富的词类信息对分词决策提供帮助，并且在标注过程中又反过来对分词结果进行检验、调整，从而极大地提高切分的准确率。

2、基于理解的分词方法

这种分词方法是通过让计算机模拟人对句子的理解，达到识别词的效果，其基本思想就是在分词的同时进行句法语义分析，利用句法信息和语义信息来处理歧义现象。

它通常包括三个部分，分词子系统，句法语义子系统、总控部分，在总控部分的协调下，分词子系统可以获得有关词、句子等的句法和语义信息来对分词歧义进行判断。即它模拟了人对句子的理解过程。

这种分词方法需要使用大量的语言知识和信息，由于汉语语言知识的笼统、复杂性，难以将各种语言信息组织成机器可直接读取的形式，因此目前基于理解的分词系统还处在试验阶段。

3、基于统计的分词方法

从形式上看，词是稳定的字的组合。因此在上下文中，相邻的字同时出现的次数越多，就越有可能构成一个词。因此字与字相邻共现的频率或概率能够较好的反映成词的可信度。可以对语料中相邻共现的各个字的组合的频度进行统计，计算它们的互现信息。定义两个字的互现信息，计算两个汉字x、y的相邻共现概率。互现信息体现了汉字之间结合关系的紧密程度。当紧密程度高于某一个阈值时，便可认为此字组可能构成了一个词。

这种方法只需对语料中的字组频度进行统计，不需要切分词典，因而又叫做无词典分词法或统计取词方法，但这种方法也有一定的局限性，会经常抽出一些共现频度高、但并不是词的常用字组，

例如“这一”、“之一”、“有的”、“我的”、“许多的”等，并且对常用词的识别精度差。

时空开销大

实际应用的统计分词系统都要使用一部基本的分词词典（常用词词典）进行串匹配分词，同时使用统计方法识别一些新的词，即将串频统计和串匹配结合起来，既发挥匹配分词切分速度快、效率高的特点，又利用了无词典分词结合上下文识别生词、自动消除歧义的优点。

到底哪种分词算法的准确度更高，目前并无定论。对于任何一个成熟的分词系统来说，不可能单独依靠某一种算法来实现，都需要综合不同的算法。海量科技的分词算法就采用“复方分词法”，

即用不同的药材综合起来去医治疾病，同样，对于中文词的识别，需要多种算法来处理不同的问题。