摘要 | 第5-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第11-19页 |
1.1 研究背景 | 第11-12页 |
1.2 研究意义 | 第12-13页 |
1.3 国内外研究现状 | 第13-16页 |
1.3.1 拼音输入法纠错算法研究现状 | 第13-15页 |
1.3.2 基于机器学习方法的句子语法纠错模型研究现状 | 第15-16页 |
1.4 研究内容 | 第16-17页 |
1.5 论文结构 | 第17-19页 |
第二章 相关技术介绍 | 第19-31页 |
2.1 自然语言处理中常用的深度学习模型 | 第19-25页 |
2.1.1 循环神经网络 | 第19-21页 |
2.1.2 LSTM网络 | 第21-24页 |
2.1.3 词嵌入技术 | 第24-25页 |
2.2 Seq2seq模型 | 第25-26页 |
2.3 Attention机制 | 第26-28页 |
2.4 自编码网络Autoencoder | 第28-29页 |
2.5 集束搜索Beam Search算法 | 第29页 |
2.6 本章小结 | 第29-31页 |
第三章 基于神经网络的拼音拼写纠错模型KNPTC | 第31-43页 |
3.1 现有拼音纠错算法的局限性及解决办法 | 第31-32页 |
3.2 拼音输入法用户输入序列特点分析 | 第32-33页 |
3.2.1 较短长度带来的有限信息量 | 第32页 |
3.2.2 拼音输入中存在多种错误类型 | 第32-33页 |
3.2.3 用户输入和拼音输出之间存在相对固定的先后顺序关系 | 第33页 |
3.3 基于神经网络机器翻译的拼写纠错模型 | 第33-38页 |
3.3.1 模型整体架构 | 第34-35页 |
3.3.2 按键转移概率提取 | 第35页 |
3.3.3 Attention机制的有监督训练 | 第35-37页 |
3.3.4 使用对齐矩阵对Attention机制进行有监督训练 | 第37-38页 |
3.4 实验验证 | 第38-41页 |
3.4.1 实验数据获取 | 第38-39页 |
3.4.2 模型的评价指标 | 第39页 |
3.4.3 对比试验 | 第39-40页 |
3.4.4 实验环境 | 第40页 |
3.4.5 实验结果及分析 | 第40-41页 |
3.5 本章小结 | 第41-43页 |
第四章 样本先验知识与纠错模型相结合 | 第43-55页 |
4.1 用户点击位置信息与纠错模型结合模型KN PTC+ | 第43-47页 |
4.1.1 输入法中点击位置与错误率之间的关系 | 第43-44页 |
4.1.2 使用Autoencoder网络获得点击位置的向量表达 | 第44-45页 |
4.1.3 将点击位置先验信息引入神经网络 | 第45页 |
4.1.4 实验环境 | 第45-46页 |
4.1.5 实验结果及分析 | 第46-47页 |
4.2 预测结果重排序模型RankModel | 第47-54页 |
4.2.1 需求分析及RankModel算法选择 | 第47-49页 |
4.2.2 RankModel与纠错模型结合结构图 | 第49页 |
4.2.3 实验数据获取及特征处理 | 第49-52页 |
4.2.4 实验环境及排序模型的训练 | 第52-53页 |
4.2.5 模型评价指标 | 第53页 |
4.2.6 实验结果及分析 | 第53-54页 |
4.3 本章小节 | 第54-55页 |
第五章 带有拼写纠错功能的拼音输入法系统 | 第55-63页 |
5.1 输入法系统整体结构图 | 第55页 |
5.2 基于隐马尔可夫的拼音汉字转换模型MBPTM | 第55-58页 |
5.2.1 隐马尔可夫模型 | 第55-57页 |
5.2.2 基于隐马尔可夫模型的拼音向汉字转换模型 | 第57-58页 |
5.3 实验数据获取 | 第58-59页 |
5.4 系统实现 | 第59-60页 |
5.4.1 加载拼音和汉字相关信息 | 第59页 |
5.4.2 构建隐马尔可夫模型对象 | 第59页 |
5.4.3 遍历测试数据并构建隐马尔可夫模型进行预测 | 第59-60页 |
5.5 系统功能测试 | 第60-62页 |
5.5.1 输入法系统纠错功能测试 | 第60-61页 |
5.5.2 输入法系统拼音向汉字转换功能测试 | 第61-62页 |
5.5.3 输入法系统测试结果 | 第62页 |
5.6 本章小结 | 第62-63页 |
第六章 总结与展望 | 第63-65页 |
6.1 本文总结 | 第63页 |
6.2 后续工作及展望 | 第63-65页 |
参考文献 | 第65-69页 |
附录1 隐马尔可夫模型实现和预测代码片段 | 第69-71页 |
致谢 | 第71-73页 |
攻读学位期间发表的学术论文目录 | 第73页 |