循环神经网络门结构模型研究
| 致谢 | 第4-5页 |
| 摘要 | 第5-6页 |
| ABSTRACT | 第6页 |
| 1 绪论 | 第11-17页 |
| 1.1 课题研究背景及意义 | 第11-12页 |
| 1.2 国内外研究现状 | 第12-15页 |
| 1.2.1 循环神经网络研究 | 第12-14页 |
| 1.2.2 神经网络优化技巧研究 | 第14页 |
| 1.2.3 待研究的问题 | 第14-15页 |
| 1.3 论文研究工作与论文组织结构 | 第15-17页 |
| 2 循环神经网络理论 | 第17-29页 |
| 2.1 典型的神经网络结构 | 第17-21页 |
| 2.1.1 人工神经网络 | 第17-18页 |
| 2.1.2 循环神经网络 | 第18-20页 |
| 2.1.3 其他典型神经网络 | 第20-21页 |
| 2.2 典型的门结构循环神经网络 | 第21-25页 |
| 2.2.1 LSTM | 第21-23页 |
| 2.2.2 GRU | 第23页 |
| 2.2.3 Highway网络 | 第23-25页 |
| 2.3 随时间的反向梯度下降 | 第25-27页 |
| 2.4 门结构的特点 | 第27页 |
| 2.5 本章小结 | 第27-29页 |
| 3 改进门结构循环神经网络 | 第29-38页 |
| 3.1 基于深度学习的门结构改进 | 第29-33页 |
| 3.2 基于快速学习的门结构改进 | 第33-36页 |
| 3.3 本章小结 | 第36-38页 |
| 4 实验与分析 | 第38-53页 |
| 4.1 实验环境 | 第38页 |
| 4.2 MNIST手写数字图像识别 | 第38-46页 |
| 4.2.1 CGU跨层连接门结构对比试验 | 第39-42页 |
| 4.2.2 Highway网络与CGU对比实验 | 第42-43页 |
| 4.2.3 快速学习门结构对比实验 | 第43-46页 |
| 4.3 PTB语言文字识别 | 第46-50页 |
| 4.3.1 跨层连接门结构对比试验 | 第46-48页 |
| 4.3.2 Highway网络与CGU对比实验 | 第48页 |
| 4.3.3 快速学习门结构对比试验 | 第48-50页 |
| 4.4 QUICK DRAW快速绘图识别 | 第50-51页 |
| 4.5 本章小结 | 第51-53页 |
| 5 总结与展望 | 第53-56页 |
| 5.1 全文总结 | 第53-54页 |
| 5.2 未来展望 | 第54-56页 |
| 参考文献 | 第56-60页 |
| 作者简介 | 第60-61页 |
| 作者攻读硕士学位期间发表的论文 | 第61页 |
