中文分词算法的研究与实现
摘要 | 第4-6页 |
Abstract | 第6-7页 |
第1章 绪论 | 第11-17页 |
1.1 中文分词的背景及意义 | 第11-12页 |
1.2 中文分词的难点 | 第12-15页 |
1.2.1 中文中词长带来的分词问题 | 第12页 |
1.2.2 中文的切分歧义问题 | 第12-15页 |
1.2.3 中文分词的未登录词问题 | 第15页 |
1.3 中文分词的研究现状 | 第15-16页 |
1.4 本文的结构 | 第16-17页 |
第2章 基于词典的分词算法研究 | 第17-27页 |
2.1 正向最大匹配算法 | 第17-19页 |
2.1.1 最大匹配算法的理论基础 | 第17-18页 |
2.1.2 基于词典的正向最大匹配算法的流程 | 第18-19页 |
2.2 基于词典的逆向最大匹配算法 | 第19-21页 |
2.3 基于词典的双向匹配算法 | 第21-23页 |
2.4 N-最短路径分词法 | 第23-27页 |
第3章 中文分词的词典结构分析 | 第27-38页 |
3.1 基于整词二分法的词典 | 第28-30页 |
3.2 基于Trie索引树的词典 | 第30-32页 |
3.3 改进的词典结构 | 第32-38页 |
3.3.1 基于整词二分法的词典的初步改进 | 第33-34页 |
3.3.2 双字哈希词典 | 第34-38页 |
第4章 基于统计的分词方法研究 | 第38-43页 |
4.1 互现信息模型 | 第39-40页 |
4.2 N元语言模型 | 第40-43页 |
第5章 机械分词与统计分词结合算法的实现 | 第43-69页 |
5.1 编码问题 | 第45-46页 |
5.2 中文句子的预处理 | 第46-47页 |
5.3 使用双向匹配算法进行歧义判断 | 第47-52页 |
5.3.1 基于双向匹配算法进行歧义识别的合理性 | 第47-48页 |
5.3.2 机械分词及相应词典的改进 | 第48-52页 |
5.4 Bin-Gram语言模型 | 第52-58页 |
5.4.1 模型的创建过程 | 第52-54页 |
5.4.2 求解 3-Best分词结果 | 第54-58页 |
5.5 使用隐马尔可夫模型进行结果评估 | 第58-63页 |
5.5.1 隐马尔可夫模型(HMM) | 第58-61页 |
5.5.2 HMM用于中文分词评估 | 第61-63页 |
5.6 中文人名识别模块 | 第63-69页 |
5.6.1 中文人名的特点 | 第63-64页 |
5.6.2 常见的人名识别方法 | 第64-65页 |
5.6.3 规则与统计相结合的人名识别方法 | 第65-69页 |
第6章 实验结果与分析 | 第69-77页 |
6.1 实验的环境介绍 | 第69-70页 |
6.2 词典加载速度实验 | 第70-71页 |
6.3 分词速度实验 | 第71-73页 |
6.3.1 不同词典的分词速度对比 | 第71-72页 |
6.3.2 不同分词方法分词速度对比 | 第72-73页 |
6.4 分词效果实验 | 第73-75页 |
6.5 人名识别实验 | 第75-77页 |
第7章 总结与展望 | 第77-78页 |
参考文献 | 第78-81页 |
致谢 | 第81页 |