神经机器翻译中循环注意力机制的改进研究
| 摘要 | 第4-5页 |
| Abstract | 第5-6页 |
| 第一章 绪论 | 第12-24页 |
| 1.1 研究的背景和意义 | 第12-13页 |
| 1.2 国内外相关研究 | 第13-20页 |
| 1.2.1 神经网络的翻译模型 | 第13-15页 |
| 1.2.2 注意力机制的翻译模型 | 第15-17页 |
| 1.2.3 时序注意力机制的翻译模型 | 第17-19页 |
| 1.2.4 交互式注意力机制的翻译模型 | 第19页 |
| 1.2.5 引入覆盖机制的翻译模型 | 第19-20页 |
| 1.3 本文主要工作 | 第20-21页 |
| 1.4 本文的组织结构 | 第21-24页 |
| 第二章 基准模型与理论基础 | 第24-38页 |
| 2.1 引言 | 第24页 |
| 2.2 基准模型 | 第24-28页 |
| 2.2.1 基准模型的设计思路 | 第24-25页 |
| 2.2.2 基准模型的结构 | 第25-27页 |
| 2.2.3 基准模型的优缺点 | 第27-28页 |
| 2.3 循环神经网络 | 第28-34页 |
| 2.3.1 循环神经网络RNN | 第28-30页 |
| 2.3.2 循环神经网络的训练 | 第30页 |
| 2.3.3 长短时记忆网络LSTM | 第30-33页 |
| 2.3.4 循环门控单元GRU | 第33-34页 |
| 2.4 相关理论 | 第34-37页 |
| 2.4.1 门机制的设计 | 第34-35页 |
| 2.4.2 双向编码器 | 第35-37页 |
| 2.4.3 柱搜索算法 | 第37页 |
| 2.5 本章小节 | 第37-38页 |
| 第三章 引入自动边界调控的循环注意力机制 | 第38-52页 |
| 3.1 引言 | 第38-39页 |
| 3.2 模型具体设计思路 | 第39-40页 |
| 3.3 基于门机制的自动边界 | 第40-41页 |
| 3.4 调控模型设计 | 第41-46页 |
| 3.4.1 对称边界模型 | 第42-43页 |
| 3.4.2 非对称边界模型 | 第43-45页 |
| 3.4.3 两种边界模型对比 | 第45-46页 |
| 3.5 实验结果与分析 | 第46-50页 |
| 3.5.1 实验设置 | 第46-48页 |
| 3.5.2 实验结果 | 第48-50页 |
| 3.6 本章小结 | 第50-52页 |
| 第四章 引入权重控制的循环注意力机制 | 第52-64页 |
| 4.1 引言 | 第52-53页 |
| 4.2 模型设计思路 | 第53-54页 |
| 4.3 调控模型设计 | 第54-58页 |
| 4.3.1 历史注意力调控模型 | 第54-56页 |
| 4.3.2 非对称边界-历史注意力调控模型 | 第56-58页 |
| 4.4 实验结果与分析 | 第58-62页 |
| 4.4.1 实验设置 | 第58-59页 |
| 4.4.2 实验结果 | 第59-62页 |
| 4.5 本章小结 | 第62-64页 |
| 第五章 总结与展望 | 第64-66页 |
| 5.1 本文的主要贡献 | 第64-65页 |
| 5.2 未来的研究方向 | 第65-66页 |
| 参考文献 | 第66-70页 |
| 致谢 | 第70-71页 |
