基于随机梯度下降的神经网络权重优化算法
| 摘要 | 第5-7页 |
| Abstract | 第7-9页 |
| 1.绪论 | 第10-18页 |
| 1.1 研究背景与意义 | 第10-12页 |
| 1.2 国内外研究现状 | 第12-13页 |
| 1.3 研究内容 | 第13-15页 |
| 1.4 论文组织结构 | 第15-16页 |
| 1.5 本章小结 | 第16-18页 |
| 2.基础模型概述 | 第18-24页 |
| 2.1 随机梯度下降(SGD) | 第18-19页 |
| 2.2 Momentum | 第19-20页 |
| 2.3 Adagrad | 第20-21页 |
| 2.4 Adadelta | 第21-22页 |
| 2.5 Adam | 第22-23页 |
| 2.6 本章小结 | 第23-24页 |
| 3.自适应机制动态地获取学习率 | 第24-44页 |
| 3.1 自适应机制动态地获取学习率 | 第24-31页 |
| 3.1.1 AEDR自适应机制 | 第24-27页 |
| 3.1.2 AEDR-Adadelta | 第27-28页 |
| 3.1.3 AEDR-Adam | 第28-29页 |
| 3.1.4 收敛性分析 | 第29-31页 |
| 3.2 实验设计与结果分析 | 第31-41页 |
| 3.2.1 实验数据准备 | 第32-33页 |
| 3.2.2 文本分析的实验结果 | 第33-39页 |
| 3.2.3 图像分析的实验结果 | 第39-41页 |
| 3.3 本章小结 | 第41-44页 |
| 4.梯度方差缩减的随机梯度下降法 | 第44-54页 |
| 4.1 SMVRG算法的相关介绍 | 第44-46页 |
| 4.2 实验设计与结果分析 | 第46-52页 |
| 4.2.1 数据准备 | 第46-47页 |
| 4.2.2 网络结构与参数设置 | 第47-48页 |
| 4.2.3 实验结果分析 | 第48-52页 |
| 4.3 本章小结 | 第52-54页 |
| 5.总结与展望 | 第54-58页 |
| 5.1 全文总结 | 第54-55页 |
| 5.2 研究展望 | 第55-58页 |
| 参考文献 | 第58-64页 |
| 致谢 | 第64-68页 |
| 硕士期间的学术成果和参与的课题 | 第68页 |
