摘要 | 第2-3页 |
Abstract | 第3页 |
第一章 绪论 | 第6-10页 |
1.1 研究背景与意义 | 第6-7页 |
1.2 研究现状 | 第7-9页 |
1.3 本文完成的主要工作 | 第9-10页 |
第二章 卷积神经网络 | 第10-26页 |
2.1 卷积神经网络的常用结构 | 第10-18页 |
2.1.1 卷积层 | 第11-14页 |
2.1.2 批标准化层 | 第14-16页 |
2.1.3 激活层 | 第16-17页 |
2.1.4 池化层 | 第17-18页 |
2.2 反向传播算法和参数更新方法 | 第18-20页 |
2.2.1 Mini-batch Gradient Descent | 第18-19页 |
2.2.2 Momentum Update | 第19页 |
2.2.3 RMSProp | 第19-20页 |
2.2.4 Adam | 第20页 |
2.3 小型卷积神经网络的结构和设计方法 | 第20-24页 |
2.3.1 Squeeze Net | 第20-22页 |
2.3.2 Mobile Net | 第22页 |
2.3.3 小型卷积神经网络结构设计方法总结 | 第22-24页 |
2.4 本章小结 | 第24-26页 |
第三章 全采样和基于L1范数的降采样 | 第26-40页 |
3.1 全采样和基于L1范数的降采样 | 第26-31页 |
3.1.1 全采样 | 第26-29页 |
3.1.2 基于L1范数的降采样 | 第29-31页 |
3.2 卷积神经网络的结构 | 第31-33页 |
3.3 实验数据集 | 第33-34页 |
3.3.1 CIFAR-10 数据集 | 第33页 |
3.3.2 MNIST数据集 | 第33-34页 |
3.4 实验平台 | 第34页 |
3.5 实验结果 | 第34-39页 |
3.5.1 CIFAR-10 数据集实验结果 | 第34-39页 |
3.5.2 MNIST数据集实验结果 | 第39页 |
3.6 本章小结 | 第39-40页 |
第四章 基于结构设计的模型压缩 | 第40-50页 |
4.1 基于结构设计的模型压缩方法 | 第40-44页 |
4.1.1 通道维度分别卷积 | 第40-41页 |
4.1.2 分组卷积 | 第41-43页 |
4.1.3 1×1 卷积替代 3×3 卷积 | 第43页 |
4.1.4 分组洗牌 | 第43-44页 |
4.2 压缩后的卷积神经网络的结构 | 第44-46页 |
4.3 实验结果 | 第46-48页 |
4.3.1 CIFAR-10 数据集实验结果 | 第46-47页 |
4.3.2 MNIST 数据集实验结果 | 第47-48页 |
4.4 本章小结 | 第48-50页 |
第五章 总结与展望 | 第50-52页 |
参考文献 | 第52-56页 |
攻读学位期间的研究成果 | 第56-58页 |
致谢 | 第58-60页 |