摘要 | 第4-5页 |
abstract | 第5页 |
第一章 绪论 | 第8-13页 |
1.1 课题研究的背景与意义 | 第8-9页 |
1.2 国内外研究现状 | 第9-11页 |
1.2.1 国外研究现状 | 第9-10页 |
1.2.2 国内研究现状 | 第10-11页 |
1.3 论文的主要工作及结构安排 | 第11-13页 |
1.3.1 论文的主要工作 | 第11-12页 |
1.3.2 论文的结构安排 | 第12-13页 |
第二章 中文分词技术简介 | 第13-30页 |
2.1 基于规则的中文分词方法 | 第13-15页 |
2.2 基于理解的中文分词方法 | 第15-16页 |
2.3 基于统计的中文分词方法 | 第16-25页 |
2.3.1 常用的统计量 | 第16-17页 |
2.3.2 隐马尔科夫模型 | 第17-20页 |
2.3.3 最大熵模型 | 第20-21页 |
2.3.4 条件随机场模型 | 第21-25页 |
2.4 中文分词的主要难点 | 第25-26页 |
2.4.1 歧义词的识别和处理 | 第25页 |
2.4.2 未登录词的识别 | 第25-26页 |
2.5 中文分词的评判标准 | 第26-27页 |
2.6 基于条件随机场的中文分词系统总体设计 | 第27-29页 |
2.6.1 中文分词系统的设计思路 | 第27-28页 |
2.6.2 中文分词系统的的总体流程 | 第28-29页 |
2.7 本章小结 | 第29-30页 |
第三章 基于条件随机场的中文分词预处理研究 | 第30-38页 |
3.1 基于条件随机场的中文分词预处理流程 | 第30-33页 |
3.1.1 语料库的收集与选取 | 第30-31页 |
3.1.2 词位标记方式分析 | 第31-32页 |
3.1.3 特征模板分析 | 第32-33页 |
3.2 改进的基于条件随机场的中文分词预处理 | 第33-37页 |
3.2.1 词位标记方式的改进 | 第34-35页 |
3.2.2 特征模板的改进 | 第35-37页 |
3.3 本章小结 | 第37-38页 |
第四章 基于条件随机场的中文分词研究和设计 | 第38-49页 |
4.1 基于条件随机场的中文分词模型训练算法研究 | 第38-41页 |
4.1.1 基于随机梯度下降(SGD)的算法分析 | 第38-39页 |
4.1.2 改进的中文分词模型训练算法 | 第39-41页 |
4.2 基于条件随机场的中文分词模型预测算法研究 | 第41-46页 |
4.2.1 基于维特比(Viterbi)的预测算法分析 | 第41-43页 |
4.2.2 改进的基于维特比(Viterbi)算法的预测模型 | 第43-46页 |
4.3 基于条件随机场中文分词的后处理方法 | 第46-48页 |
4.3.1 基于Tire树的歧义检测方法 | 第46-47页 |
4.3.2 针对条件随机场的歧义消解方法 | 第47-48页 |
4.4 本章小结 | 第48-49页 |
第五章 系统实现及实验结果 | 第49-60页 |
5.1 模型训练 | 第49-52页 |
5.1.1 语料库的规范处理 | 第49-50页 |
5.1.2 特征模板配置 | 第50页 |
5.1.3 中文分词模型训练 | 第50-52页 |
5.2 中文分词系统实现 | 第52-56页 |
5.2.1 系统后台实现 | 第54-55页 |
5.2.2 系统前端实现 | 第55-56页 |
5.2.3 系统界面展示 | 第56页 |
5.3 实验结果分析 | 第56-59页 |
5.3.1 中文分词准确率实验与结果分析 | 第57-59页 |
5.3.2 中文分词效率实验与结果分析 | 第59页 |
5.4 本章小结 | 第59-60页 |
第六章 总结与展望 | 第60-61页 |
6.1 总结 | 第60页 |
6.2 展望 | 第60-61页 |
参考文献 | 第61-63页 |
附录1 攻读硕士学位期间申请的专利 | 第63-64页 |
致谢 | 第64页 |