改进的深度学习框架研究
| 摘要 | 第5-6页 |
| abstract | 第6-7页 |
| 第一章 绪论 | 第10-13页 |
| 1.1 研究工作的背景与意义 | 第10页 |
| 1.2 国内外研究历史与现状 | 第10-12页 |
| 1.3 本文的主要贡献与创新 | 第12页 |
| 1.4 本论文的结构安排 | 第12-13页 |
| 第二章 深度学习方法的优化与泛化 | 第13-36页 |
| 2.1 从多层感知器到深度学习 | 第13-15页 |
| 2.2 欠拟合与优化 | 第15-26页 |
| 2.2.1 梯度下降方法 | 第18-22页 |
| 2.2.2 Fisher信息矩阵与自然梯度 | 第22-26页 |
| 2.3 过拟合与泛化 | 第26-28页 |
| 2.4 参数的初始化 | 第28-29页 |
| 2.5 二维到一维的映射 | 第29-33页 |
| 2.6 网络的简化与稀疏化 | 第33-35页 |
| 2.7 本章小结 | 第35-36页 |
| 第三章 改进的深度学习框架 | 第36-51页 |
| 3.1 参数的平滑初始化 | 第36-40页 |
| 3.2 卷积池化层 | 第40-42页 |
| 3.3 最优平滑滤波器 | 第42-43页 |
| 3.4 动态剪枝方法 | 第43-49页 |
| 3.4.1 对扁平化层的剪枝 | 第44-45页 |
| 3.4.2 神经元退化 | 第45-47页 |
| 3.4.3 剪枝与再训练 | 第47-48页 |
| 3.4.4 动态剪枝 | 第48-49页 |
| 3.5 本章小结 | 第49-51页 |
| 第四章 实验验证 | 第51-62页 |
| 4.1 MNIST分类实验 | 第51-52页 |
| 4.2 Cifar-10分类实验 | 第52-55页 |
| 4.3 CelebA图像生成实验 | 第55-58页 |
| 4.4 文本分类实验 | 第58-59页 |
| 4.5 车辆分类实验 | 第59-61页 |
| 4.7 本章小结 | 第61-62页 |
| 第五章 全文总结与展望 | 第62-63页 |
| 5.1 全文总结 | 第62页 |
| 5.2 后续工作展望 | 第62-63页 |
| 致谢 | 第63-64页 |
| 参考文献 | 第64-68页 |
| 攻读硕士学位期间取得的成果 | 第68页 |