按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
字连起来才能描述一个意思。例如，英文句子“I am a student。”，用中文则为：“我是一个
学生”。计算机可以很简单通过空格知道 student 是一个单词，但是不能很容易明白“学”、
“生”两个字合起来才表示一个词。把中文的汉字序列切分成有意义的词，就是中文分词，
有些人也称为切词。我是一个学生，分词的结果是：“我”“是”“一个”“学生”。
二、中文分词的意义和作用
要想说清楚中文分词的意义和作用，就要提到智能计算技术。智能计算技术涉及的学科
包括物理学、数学、计算机科学、电子机械、通讯、生理学、进化理论和心理学等等。简单
的说，智能计算就是让机器“能看会想，能听会讲”。要想实现这样的一个目标，首先就要
让机器理解人类的语言，只有机器理解了人类的语言文字，才使得人与机器的交流成为可能。
再反观我们人类的语言中，“词是最小的能够独立活动的有意义的语言成分”，所以对于中文
来讲，将词确定下来是理解自然语言的第一步，只有跨越了这一步，中文才能像英文那样过
渡到短语划分、概念抽取以及主题分析，以至自然语言理解，最终达到智能计算的最高境界，
实现人类的梦想。
从现阶段的实际情况来看，英文已经跨越了分词这一步，也就是说在词的利用上已经先
一步，并且已经展现了良好的应用前景，无论是信息检索还是主题分析的研究都要强于中文，
究其根本原因就是中文要通过分词这道难关，只有攻破了这道难关，我们才有希望赶上并超
过英文在信息领域的发展，所以中文分词对我们来说意义重大，可以说直接影响到使用中文
的每一个人的方方面面。
第 50 页
… Page 59…
搜索引擎优化魔法书 SEO Magic Book 浩维互动免费电子书 timev
中文分词到底对搜索引擎有多大影响？对于搜索引擎来说，最重要的并不是找到所有结
果，因为在上百亿的网页中找到所有结果没有太多的意义，没有人能看得完，最重要的是把
最相关的结果排在最前面，这也称为相关度排序。中文分词的准确与否，常常直接影响到对
搜索结果的相关度排序。在现有三个中文搜索引擎上做测试，测试方法是直接在 Google
（google ）、百度（baidu ）、中搜（zhongsou ）
上以“和服”为关键词进行搜索：
在 Google 上输入“和服”搜索所有中文简体网页，总共结果 507，000 条，前
20 条结果中有 14 条与和服一点关系都没有。在第一页就有以下错误：
“通信信息报：瑞星以技术和服务开拓网络安全市场”
“使用纯 HTML 的通用数据管理和服务… 开发者… ZDNet 。。。”
“陈慧琳《心口不一》化妆和服装自己包办”
“：：外交部：中国境外领事保护和服务指南（2003 年版） 。。。”
“产品和服务”
等等。第一页只有三篇是真正在讲“和服”的结果。
在百度上输入“和服”搜索网页，总共结果为 287，000 条，前20 条结果中有
6 条与和服一点关系都没有。在第一页有以下错误：
“福建省晋江市恒和服装有限公司系独资企业”
“关于商品和服务实行明码标价的规定”
“青岛东和服装设备”
在中搜上输入“和服”搜索网页，总共结果为 26，917 条，前 20 条结果都是
与和服相关的网页。
这次搜索引擎结果中的错误，就是由于分词的不准确所造成的。Google 的中文分词技
术采用的是美国Basis Technology （basistech ）公司提供的中文分词技术，百
度使用的是自己公司开发的分词技术，中搜使用的是国内海量科技（hylanda）
提供的分词技术。由此可见，中文分词的准确度，对搜索引擎结果相关性和准确性有相当大
的关系。
三、中文分词技术
中文分词技术属于自然语言处理技术范畴，对于一句话，人可以通过自己的知识来明白
哪些是词，哪些不是词，但如何让计算机也能理解？其处理过程就是分词算法。
现有的分词算法可分为三大类：基于字符串匹配的分词方法、基于理解的分词方法和基
于统计的分词方法。
1、基于字符串匹配的分词方法
这种方法又叫做机械分词方法，它是按照一定的策略将待分析的汉字串与一个“充分大
的”机器词典中的词条进行匹配，若在词典中找到某个字符串，则匹配成功（识别出一个词）。
第 51 页
… Page 60…
搜索引擎优化魔法书 SEO Magic Book 浩维互动免费电子书 timev
按照扫描方向的不同，字符串匹配分词方法可以分为正向匹配和逆向匹配；按照不同长度优
先匹配的情况，可以分为最大（最长）匹配和最小（最短）匹配；按照是否与词性标注过程
相结合，又可以分为单纯分词方法和分词与标注相结合的一体化方法。常用的几种机械分词
方法如下：
正向最大匹配法（由左到右的方向）；
逆向最大匹配法（由右到左的方向）；
最少切分（使每一句中切出的词数最小）。
还可以将上述各种方法相互组合，例如，可以将正向最大匹配方法和逆向最大匹配方法
结合起来构成双向匹配法。由于汉语单字成词的特点，正向最小匹配和逆向最小匹配一般很
少使用。一般说来，逆向匹配的切分精度略高于正向匹配，遇到的歧义现象也较少。统计结
果表明，单纯使用正向最大匹配的错误率为 1/169，单纯使用逆向最大匹配的错误率为
1/245。但这种精度还远远不能满足实际的需要。实际使用的分词系统，都是把机械分词作
为一种初分手段，还需通过利用各种其它的语言信息来进一步提高切分的准确率。
一种方法是改进扫描方式，称为特征扫描或标志切分，优先在待分析字符串中识别和切
分出一些带有明显特征的词，以这些词作为断点，可将原字符串分为较小的串再来进行机械
分词，从而减少匹配的错误率。另一种方法是将分词和词类标注结合起来，利用丰富的词类
信息对分词决策提供帮助，并且在标注过程中又反过来对分词结果进行检验、调整，从而极
大地提高切分的准确率。
对于机械分词方法，可以建立一个一般的模型，在这方面有专业的学术论文，这里不做
详细论述。
2、基于理解的分词方法
这种分词方法是通过让计算机模拟人对句子的理解，达到识别词的效果。其基本思想就
是在分词的同时进行句法、语义分析，利用句法信息和语义信息来处理歧义现象。它通常包
括三个部分：分词子系统、句法语义子系统、总控部分。在总控部分的协调下，分词子系统
可以获得有关词、句子等的句法和语义信息来对分词歧义进行判断，即它模拟了人对句子的
理解过程。这种分词方法需要使用大量的语言知识和信息。由于汉语语言知识的笼统、复杂
性，难以将各种语言信息组织成机器可直接读取的形式，因此目前基于理解的分词系统还处
在试验阶段。
3、基于统计的分词方法
从形式上看，词是稳定的字的组合，因此在上下文中，相邻的字同时出现的次数越多，
就越有可能构成一个词。因此字与字相邻共现的频率或概率能够较好的反映成词的可信度。
可以对语料中相邻共现的各个字的组合的频度进行统计，计算它们的互现信息。定义两个字
的互现信息，计算两个汉字X、Y 的相邻共现概率。互现信息体现了汉字之间结合关系的紧
密程度。当紧密程度高于某一个阈值时，便可认为此字组可能构成了一个词。这种方法只需
对语料中的字组频度进行统计，不需要切分词典，因而又叫做无词典分词法或统计取词方法。
但这种方法也有一定的局限性，会经常抽出一些共现频度高、但并不是词的常用字组，例如
“这一”、“之一”、“有的”、“我的”、“许多的”等，并且对常用词的识别精度差，时空开销
大。实际应用的统计分词系统都要使用一部基本的分词词典（常用词词典）进行串匹配分词，
同时使用统计方法识别一些新的词，即将串频统计和串匹配结合起来，既发挥匹配分词切分
第 52 页
… Page 61…
搜索引擎优化魔法书 SEO Magic Book 浩维互动免费电子书 timev
速度快、效率高的特点，又利用了无词典分词结合上下文识别生词、自动消除歧义的优点。
到底哪种分词算法的准确度更高，目前并无定论。对于任何一个成熟的分词系统来说，
不可能单独依靠某一种算法来实现，都需要综合不同的算法。比如，海量科技的分词算法就
采用“复方分词法”。所谓复方，相当于用中药中的复方概念，即用不同的药才综合起来去
医治疾病，同样，对于中文词的识别，需要多种算法来处理不同的问题。
四、分词中的难题
有了成熟的分词算法，是否就能容易地解决中文分词问题呢？事实远非如此。中文是一
种十分复杂的语言，让计算机理解中文语言更是困难。在中文分词过程中，有两大难题一直
没有完全突破。
1、歧义识别
歧义是指同样的一句话，可能有两种或者更多的切分方法。例如：表面的，因为“表面”
和“面的”都是词，那么这个短语就可以分成“表面”“的”和“表”“面的”。这种称为交
叉歧义。像这种交叉歧义十分常见，前面举的“和服”的例子，其实就是因为交叉歧义引起
的错误。“化妆和服装”可以分成“化妆”“和”“服装”或者“化妆”“和服”“装”。由于没
有人的知识去理解，计算机很难知道到底哪个方案正确。
交叉歧义相对组合歧义来说是还算比较容易处理，组合歧义就必需根据整个句子来判断
了。例如，在句子“这个门把手坏了”中，“把手”是个词，但在句子“请把手拿开”中，
“把手”就不是一个词；在句子“将军任命了一名中将”中，“中将”是个词，但在句子“产
量三年中将增长两倍”中，“中将”就不再是词。这些词计算机又如何去识别？
如果交叉歧义和组合歧义计算机都能解决的话，在歧义中还有一个难题，是真歧义。真
歧义意思是给出一句话，由人去判断也不知道哪个应该是词，哪个应该不是词。例如：“乒
乓球拍卖完了”，可以切分成“乒乓”“球拍”“卖”“完”“了”、也可切分成“乒乓球”“拍
卖”“完”“了”，如果没有上下文其他的句子，恐怕谁也不知道“拍卖”在这里算不算一个
词。
2、新词识别
新词，专业术语称为未登录词，也就是那些在字典中都没有收录过，但又确实能称为词
的那些词。最典型的是人名，人可以很容易理解句子“王军虎去广州了”中，“王军虎”是
个词，因为是一个人的名字，但要是让计算机去识别就困难了。如果把“王军虎”做为一个
词收录到字典中去，全世界有那么多名字，而且每时每刻都有新增的人名，收录这些人名本
身就是一项巨大的工程。即使这项工作可以完成，还是会存在问题，例如：在句子“王军虎
头虎脑的”中，“王军虎”还能不能算词？
新词中除了人名以外，还有机构名、地名、产品名、商标名、简�