深度卷积网络预训练策略的研究与应用
摘要 | 第2-3页 |
Abstract | 第3页 |
引言 | 第6-13页 |
0.1 课题研究背景和意义 | 第6-8页 |
0.1.1 人工神经网络的发展历程 | 第6-7页 |
0.1.2 卷积神经网络 | 第7页 |
0.1.3 研究卷积神经网络预训练的意义 | 第7-8页 |
0.2 国内外研究现状 | 第8-10页 |
0.3 存在的问题 | 第10-11页 |
0.4 本文主要内容 | 第11-13页 |
1 人工神经网络 | 第13-25页 |
1.1 前馈神经网络 | 第14-19页 |
1.1.1 神经元与神经网络 | 第14-15页 |
1.1.2 反向传导算法 | 第15-16页 |
1.1.3 随机梯度下降(SGD) | 第16-17页 |
1.1.4 改进的优化算法 | 第17-19页 |
1.2 卷积神经网络 | 第19-22页 |
1.2.1 卷积操作 | 第19-20页 |
1.2.2 池化操作(子采样) | 第20页 |
1.2.3 ReLU激活函数 | 第20-21页 |
1.2.4 Softmax回归 | 第21-22页 |
1.3 LeNet-5 网络 | 第22-24页 |
1.3.1 手写体识别问题 | 第22页 |
1.3.2 LeNet-5 网络构造 | 第22-24页 |
1.4 本章小节 | 第24-25页 |
2 神经网络的权值初始化 | 第25-34页 |
2.1 逐层预训练 | 第25-27页 |
2.2 渐进式训练 | 第27页 |
2.3 Xavier初始化算法 | 第27-29页 |
2.4 正交初始化算法 | 第29-32页 |
2.5 LSUV初始化算法 | 第32-33页 |
2.6 本章小结 | 第33-34页 |
3 卷积核初始化方法研究 | 第34-44页 |
3.1 研究主体:改进的LeNet网络 | 第34-35页 |
3.2 卷积核在BP过程中的变化 | 第35-37页 |
3.3 卷积核重要性的评估 | 第37-40页 |
3.4 无监督卷积核预训练算法 | 第40-41页 |
3.5 实验结果与分析 | 第41-44页 |
4 算法应用:多光谱食品检测 | 第44-52页 |
4.1 问题背景和数据描述 | 第44-45页 |
4.1.1 多光谱食品质量检测 | 第44-45页 |
4.1.2 多光谱数据描述 | 第45页 |
4.2 特征提取算法流程 | 第45-49页 |
4.2.1 前景背景分离 | 第45-47页 |
4.2.2 单个豆子分离 | 第47-49页 |
4.3 应用卷积神经网络对样本进行分类 | 第49-50页 |
4.3.1 基于 1-范数的特征选择 | 第49页 |
4.3.2 多任务学习策略 | 第49页 |
4.3.3 卷积神经网络模型的设计 | 第49-50页 |
4.4 实验和结果讨论 | 第50-52页 |
结论 | 第52-53页 |
参考文献 | 第53-56页 |
攻读硕士学位期间发表学术论文情况 | 第56-57页 |
致谢 | 第57-59页 |