期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
基于有效子串标注的中文分词 被引量:26
1
作者 赵海 揭春雨 《中文信息学报》 CSCD 北大核心 2007年第5期8-13,共6页
由于基于已切分语料的学习方法和体系的兴起,中文分词在本世纪的头几年取得了显著的突破。尤其是2003年国际中文分词评测活动Bakeoff开展以来,基于字标注的统计学习方法引起了广泛关注。本文探讨这一学习框架的推广问题,以一种更为可靠... 由于基于已切分语料的学习方法和体系的兴起,中文分词在本世纪的头几年取得了显著的突破。尤其是2003年国际中文分词评测活动Bakeoff开展以来,基于字标注的统计学习方法引起了广泛关注。本文探讨这一学习框架的推广问题,以一种更为可靠的算法寻找更长的标注单元来实现中文分词的大规模语料学习,同时改进已有工作的不足。我们提出子串标注的一般化框架,包括两个步骤,一是确定有效子串词典的迭代最大匹配过滤算法,二是在给定文本上实现子串单元识别的双词典最大匹配算法。该方法的有效性在Bakeoff-2005评测语料上获得了验证。 展开更多
关键词 计算机应用 中文信息处理 中文分词 基于子串标注分词
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部