卷积神经网络的加速及压缩
摘要 | 第5-7页 |
Abstract | 第7-8页 |
第一章 绪论 | 第14-23页 |
1.1 研究背景及研究意义 | 第14页 |
1.2 国内外的研究现状及发展趋势 | 第14-20页 |
1.3 主要工作和结构安排 | 第20-23页 |
1.3.1 主要工作内容 | 第20-21页 |
1.3.2 结构安排 | 第21-23页 |
第二章 多方法混合的压缩加速系统 | 第23-42页 |
2.1 常见的压缩加速方法的基本原理 | 第23-34页 |
2.1.1 卷积核张量的低秩分解 | 第23-28页 |
2.1.1.1 迭代法 | 第25-26页 |
2.1.1.2 SVD分解法 | 第26-28页 |
2.1.2 网络剪枝 | 第28-31页 |
2.1.2.1 网络剪枝原理 | 第28-30页 |
2.1.2.2 稀疏张量的存储方式和运算方式 | 第30-31页 |
2.1.3 网络参数量化 | 第31-34页 |
2.1.3.1 线性量化 | 第32页 |
2.1.3.2 非线性量化 | 第32-34页 |
2.2 多方法混合及其系统优化 | 第34-35页 |
2.3 手写汉字识别网络的压缩与加速 | 第35-41页 |
2.4 本章小结 | 第41-42页 |
第三章 轻量化卷积神经网络的设计 | 第42-50页 |
3.1 轻量化网络模块 | 第42-44页 |
3.2 实验验证与分析 | 第44-48页 |
3.2.1 图像风格化网络的基本原理 | 第44-46页 |
3.2.2 实时运行的图像风格化网络的设计 | 第46-48页 |
3.3 本章小结 | 第48-50页 |
第四章 多层次的“老师-学生”训练模型 | 第50-71页 |
4.1“老师-学生”学习方法 | 第50-51页 |
4.2 多层次的“老师-学生”训练模型 | 第51-60页 |
4.2.1 基本原理与算法流程 | 第51-59页 |
4.2.2 与卷积核低秩分解的联系 | 第59页 |
4.2.3 与参数量化方法的结合 | 第59-60页 |
4.3 实验验证与分析 | 第60-70页 |
4.3.1 对于FlowNet网络的压缩与加速 | 第60-63页 |
4.3.2 对于残差网络的压缩与加速 | 第63-66页 |
4.3.3 对于NIN网络的压缩与加速 | 第66-70页 |
4.4 本章小结 | 第70-71页 |
第五章 总结与展望 | 第71-73页 |
5.1 总结 | 第71-72页 |
5.2 展望 | 第72-73页 |
参考文献 | 第73-78页 |
附录 | 第78-79页 |
攻读硕士学位期间取得的研究成果 | 第79-80页 |
致谢 | 第80-81页 |
附件 | 第81页 |