基于超参数自动优化的压缩神经网络模型研究
摘要 | 第4-5页 |
Abstract | 第5-6页 |
第一章 绪论 | 第9-14页 |
1.1 研究背景 | 第9-11页 |
1.2 国内外研究现状 | 第11-13页 |
1.2.1 神经网络压缩技术的研究现状 | 第11-12页 |
1.2.2 超参数优化技术的研究现状 | 第12-13页 |
1.3 本文的内容及组织结构 | 第13页 |
1.4 本章小结 | 第13-14页 |
第二章 卷积神经网络概述 | 第14-22页 |
2.1 SoftMax分类器 | 第14-16页 |
2.2 自编码器与多层感知机 | 第16-19页 |
2.3 卷积神经网络 | 第19-21页 |
2.4 本章小结 | 第21-22页 |
第三章 自动超参数优化算法研究 | 第22-39页 |
3.1 超参数优化算法概述 | 第22-24页 |
3.2 贝叶斯超参数优化方法 | 第24-28页 |
3.2.1 高斯过程模型 | 第25-26页 |
3.2.2 指引函数搜索策略 | 第26-28页 |
3.3 HORD超参数自动优化模型 | 第28-33页 |
3.3.1 RBF径向基插值模型 | 第29-30页 |
3.3.2 协调动态搜索 | 第30-33页 |
3.4 HORD超参数优化算法实验 | 第33-38页 |
3.4.1 HORD算法实验设计及环境 | 第33-34页 |
3.4.2 HORD算法实验数据 | 第34-35页 |
3.4.3 HORD算法实验结果及分析 | 第35-38页 |
3.5 本章小结 | 第38-39页 |
第四章 Hash神经网络压缩算法 | 第39-46页 |
4.1 神经网络压缩算法概述 | 第39页 |
4.2 神经网络剪枝算法 | 第39-40页 |
4.3 基于低秩次级矩阵分解的压缩算法 | 第40-41页 |
4.4 量化压缩算法 | 第41-44页 |
4.4.1 二值量化方法 | 第41页 |
4.4.2 标量量化方法 | 第41-42页 |
4.4.3 向量量化方法 | 第42-43页 |
4.4.4 Hash量化方法 | 第43-44页 |
4.5 压缩算法实验 | 第44-45页 |
4.5.1 压缩算法实验设计 | 第44页 |
4.5.2 压缩算法实验环境 | 第44页 |
4.5.3 压缩算法实验结果及分析 | 第44-45页 |
4.6 本章小结 | 第45-46页 |
第五章 基于HORD的压缩神经网络模型 | 第46-53页 |
5.1 Hash量化算法优化 | 第46-48页 |
5.2 HORD-HD | 第48-50页 |
5.3 HORD-HD算法实验设计 | 第50页 |
5.4 HORD-HD算法实验环境 | 第50-51页 |
5.5 HORD-HD算法实验分析 | 第51-52页 |
5.6 本章小结 | 第52-53页 |
第六章 总结与展望 | 第53-54页 |
参考文献 | 第54-59页 |
致谢 | 第59-60页 |
附录:在校期间个人成果 | 第60页 |