基于统计学习的中文分词改进及其在面向应用分词中的应用
| 摘要 | 第3-4页 |
| Abstract | 第4页 |
| 目录 | 第5-8页 |
| 图目录 | 第8-9页 |
| 表目录 | 第9-10页 |
| 第1章 绪论 | 第10-16页 |
| 1.1 自然语言理解概述 | 第10-11页 |
| 1.2 研究的背景和意义 | 第11-14页 |
| 1.3 本文研究工作概述 | 第14-15页 |
| 1.4 本文组织结构 | 第15页 |
| 1.5 本章小结 | 第15-16页 |
| 第2章 中文分词技术概述 | 第16-27页 |
| 2.1 中文分词中的问题 | 第16-18页 |
| 2.1.1 分词规范 | 第16-17页 |
| 2.1.2 歧义消解 | 第17-18页 |
| 2.1.3 未登录词识别 | 第18页 |
| 2.2 现有的中文分词技术 | 第18-26页 |
| 2.2.1 基于字符串匹配的分词技术 | 第18-20页 |
| 2.2.2 基于理解的分词技术 | 第20-21页 |
| 2.2.3 基于统计的分词技术 | 第21-24页 |
| 2.2.4 基于字标注的分词技术 | 第24-26页 |
| 2.3 本章小结 | 第26-27页 |
| 第3章 基于统计的中文分词算法设计与实现 | 第27-46页 |
| 3.1 关联度描述 | 第27-35页 |
| 3.1.1 逐点互信息 | 第28-30页 |
| 3.1.2 信息熵 | 第30-31页 |
| 3.1.3 对数似然比 | 第31-34页 |
| 3.1.4 统一的关联度量 | 第34-35页 |
| 3.2 t-测试 | 第35页 |
| 3.3 三元语言模型 | 第35-38页 |
| 3.3.1 三元语法信息的挖掘 | 第36-37页 |
| 3.3.2 基于三元语法的分词 | 第37-38页 |
| 3.3.3 歧义消解 | 第38页 |
| 3.4 系统实现 | 第38-42页 |
| 3.4.1 预处理 | 第38页 |
| 3.4.2 基本统计量的提取 | 第38页 |
| 3.4.3 计算统计特征值 | 第38-42页 |
| 3.4.4 参数训练 | 第42页 |
| 3.4.5 分词 | 第42页 |
| 3.5 实验及结果分析 | 第42-44页 |
| 3.5.1 实验数据说明 | 第42页 |
| 3.5.2 分词结果的评测标准 | 第42页 |
| 3.5.3 分词结果分析 | 第42-44页 |
| 3.6 本章小结 | 第44-46页 |
| 第4章 基于统计学习的面向应用分词器 | 第46-60页 |
| 4.1 术语定义 | 第46-47页 |
| 4.2 基于统计学习的未登录词识别 | 第47-50页 |
| 4.2.1 未登录词的内容与特征 | 第47-48页 |
| 4.2.2 统计量的选择 | 第48-49页 |
| 4.2.3 系统架构 | 第49-50页 |
| 4.3 基于统计学习的分词标准适配 | 第50-55页 |
| 4.3.1 面向应用的分词 | 第50-51页 |
| 4.3.2 已有的研究 | 第51-53页 |
| 4.3.3 统计量的选取 | 第53-54页 |
| 4.3.4 系统架构 | 第54-55页 |
| 4.4 系统实现 | 第55页 |
| 4.5 实验及结果分析 | 第55-59页 |
| 4.5.1 实验数据说明 | 第55页 |
| 4.5.2 分词结果的评测标准 | 第55-57页 |
| 4.5.3 分词结果分析 | 第57-59页 |
| 4.6 本章小结 | 第59-60页 |
| 第5章 总结与展望 | 第60-62页 |
| 5.1 总结 | 第60页 |
| 5.2 未来工作展望 | 第60-62页 |
| 参考文献 | 第62-67页 |
| 致谢 | 第67页 |
