基于曲率信息的受限玻尔兹曼机训练算法
| 摘要 | 第4-5页 |
| Abstract | 第5页 |
| 第一章 绪论 | 第8-14页 |
| 1.1 研究背景及意义 | 第8-10页 |
| 1.1.1 机器学习及其局限性 | 第8-9页 |
| 1.1.2 人工神经网络与深度学习 | 第9-10页 |
| 1.2 研究内容 | 第10-13页 |
| 1.3 论文结构 | 第13-14页 |
| 第二章 研究综述 | 第14-25页 |
| 2.1 受限玻尔兹曼机 | 第14-19页 |
| 2.1.1 受限玻尔兹曼机的结构 | 第14-16页 |
| 2.1.2 受限玻尔兹曼机的训练 | 第16-19页 |
| 2.2 常用的无约束优化算法 | 第19-25页 |
| 2.2.1 无约束优化 | 第19-20页 |
| 2.2.2 梯度下降法 | 第20-21页 |
| 2.2.3 最速下降法 | 第21-22页 |
| 2.2.4 牛顿优化法 | 第22-25页 |
| 第三章 迭代映射拟牛顿法 | 第25-41页 |
| 3.1 受限玻尔兹曼机的训练环境 | 第25-28页 |
| 3.1.1 受限玻尔兹曼机的病态性 | 第25-27页 |
| 3.1.2 受限玻尔兹曼机的非凸性 | 第27-28页 |
| 3.2 牛顿方法的其他优势 | 第28-29页 |
| 3.2.1 二次收敛 | 第28-29页 |
| 3.2.2 仿射不变性 | 第29页 |
| 3.3 迭代映射法 | 第29-30页 |
| 3.4 拟牛顿法进行子训练 | 第30-41页 |
| 3.4.1 拟牛顿法框架 | 第30-31页 |
| 3.4.2 共轭梯度法 | 第31-34页 |
| 3.4.3 迭代映射拟牛顿法 | 第34-35页 |
| 3.4.4 拟牛顿法与自然梯度法 | 第35-41页 |
| 第四章 实验设计与结果 | 第41-47页 |
| 4.1 仿真数据实验 | 第41-44页 |
| 4.1.1 实验设置 | 第41-42页 |
| 4.1.2 实验结果 | 第42-44页 |
| 4.2 MNIST数据集实验 | 第44-47页 |
| 第五章 结语 | 第47-48页 |
| 5.1 总结 | 第47页 |
| 5.2 进一步工作 | 第47-48页 |
| 参考文献 | 第48-51页 |
| 发表论文和参加科研情况说明 | 第51-52页 |
| 致谢 | 第52-53页 |
