中文摘要 | 第3-4页 |
英文摘要 | 第4-5页 |
1 绪论 | 第8-16页 |
1.1 研究背景及历史意义 | 第8-9页 |
1.2 手写数字识别的应用前景 | 第9-10页 |
1.3 国内外研究现状 | 第10-13页 |
1.4 基于深度学习的手写数字识别难点 | 第13页 |
1.5 本文主要内容与章节安排 | 第13-14页 |
1.6 本章小结 | 第14-16页 |
2 卷积神经网络 | 第16-42页 |
2.1 人工神经网络 | 第16-20页 |
2.1.1 感知器 | 第16-17页 |
2.1.2 多层感知器 | 第17-18页 |
2.1.3 前向传播算法 | 第18-19页 |
2.1.4 反向传播算法 | 第19-20页 |
2.2 卷积神经网络 | 第20-31页 |
2.2.1 CNN相关概念 | 第21-23页 |
2.2.2 卷积层的卷积操作 | 第23页 |
2.2.3 批量归一化 | 第23-24页 |
2.2.4 激活函数 | 第24-27页 |
2.2.5 池化层 | 第27-28页 |
2.2.6 Softmax回归分类器 | 第28-30页 |
2.2.7 Dropout | 第30-31页 |
2.3 BP神经网络模型 | 第31-33页 |
2.3.1 模型定义和网络结构 | 第31-32页 |
2.3.2 BP神经网络模型训练 | 第32-33页 |
2.4 基于传统卷积神经网络的手写数字识别 | 第33-40页 |
2.4.1 LeNet-5网络模型 | 第33-34页 |
2.4.2 构建基于传统卷积神经网络的手写数字识别 | 第34-40页 |
2.5 本章总结 | 第40-42页 |
3 基于残差网络和递归神经网络的手写数字识别 | 第42-60页 |
3.1 梯度消失和梯度爆炸 | 第42页 |
3.2 残差网络概述 | 第42-44页 |
3.3 递归神经网络概述 | 第44页 |
3.4 MNIST手写数据库 | 第44-46页 |
3.5 数据预处理 | 第46-49页 |
3.6 构建残差网络和递归神经网络结合的手写数字识别网络结构 | 第49-58页 |
3.6.1 硬件环境和caffe框架介绍 | 第49-50页 |
3.6.2 模型设计 | 第50-53页 |
3.6.3 实验结果与分析 | 第53-58页 |
3.7 本章小结 | 第58-60页 |
4 基于Inception网络结构的手写数字识别 | 第60-76页 |
4.1 卷积神经网络典型结构 | 第60-64页 |
4.1.1 AlexNet | 第60-61页 |
4.1.2 GoogLeNet | 第61-63页 |
4.1.3 VGGNet | 第63-64页 |
4.2 Inception网络结构模型 | 第64-67页 |
4.3 构建基于inception网络结构模型的手写数字识别网络结构 | 第67-69页 |
4.4 实验结果与分析 | 第69-73页 |
4.5 实验对比 | 第73-74页 |
4.6 本章小结 | 第74-76页 |
5 总结与展望 | 第76-78页 |
5.1 工作总结 | 第76页 |
5.2 工作展望 | 第76-78页 |
致谢 | 第78-80页 |
参考文献 | 第80-84页 |
附录 | 第84页 |
A.作者在攻读学位期间发表的论文目录 | 第84页 |