基于TVM的多平台卷积神经网络加速方案的设计与实现
摘要 | 第4-5页 |
Abstract | 第5页 |
第1章 绪论 | 第12-20页 |
1.1 课题背景 | 第12-13页 |
1.2 卷积神经网络算法加速相关研究 | 第13-18页 |
1.2.1 网络修剪 | 第13-14页 |
1.2.2 知识蒸馏 | 第14页 |
1.2.3 低精度表示 | 第14-15页 |
1.2.4 参数量化 | 第15-16页 |
1.2.5 低秩分解 | 第16-17页 |
1.2.6 底层矩阵运算加速 | 第17页 |
1.2.7 硬件加速 | 第17-18页 |
1.3 论文主要结构 | 第18-20页 |
第2章 技术背景 | 第20-30页 |
2.1 MXNet | 第20-22页 |
2.1.1 系统结构 | 第20-21页 |
2.1.2 框架特性 | 第21-22页 |
2.2 NNVM | 第22-23页 |
2.2.1 设计理念 | 第22页 |
2.2.2 功能及表现 | 第22-23页 |
2.3 TVM | 第23-24页 |
2.4 神经网络 | 第24-27页 |
2.4.1 前馈神经网络 | 第24-25页 |
2.4.2 卷积神经网络 | 第25-27页 |
2.5 CPU程序优化技术 | 第27-29页 |
2.5.1 循环分块 | 第27-28页 |
2.5.2 循环展开 | 第28-29页 |
2.5.3 向量化 | 第29页 |
2.5.4 多线程 | 第29页 |
2.6 本章小结 | 第29-30页 |
第3章 卷积加速方案 | 第30-40页 |
3.1 加速方案设计 | 第30页 |
3.2 访存模式优化 | 第30-36页 |
3.2.1 循环分块 | 第31-34页 |
3.2.2 数据重排 | 第34-36页 |
3.3 运算并行化 | 第36-39页 |
3.3.1 向量化 | 第36-38页 |
3.3.2 循环展开 | 第38页 |
3.3.3 多线程并行 | 第38-39页 |
3.4 本章小结 | 第39-40页 |
第4章 多平台实现 | 第40-53页 |
4.1 模型介绍 | 第40-44页 |
4.1.1 ImageNet | 第40页 |
4.1.2 ResNet | 第40-42页 |
4.1.3 SqueezeNet | 第42-44页 |
4.1.4 MobileNet | 第44页 |
4.2 多平台部署 | 第44-52页 |
4.2.1 PC | 第45-46页 |
4.2.2 智能手机 | 第46-49页 |
4.2.3 Raspberry Pi | 第49-52页 |
4.3 本章小结 | 第52-53页 |
第5章 实验结果分析 | 第53-66页 |
5.1 PC | 第57-59页 |
5.2 智能手机 | 第59-62页 |
5.3 Raspberry Pi | 第62-65页 |
5.4 本章小结 | 第65-66页 |
第6章 总结与展望 | 第66-68页 |
6.1 论文工作总结 | 第66-67页 |
6.2 论文研究展望 | 第67-68页 |
参考文献 | 第68-72页 |
攻读硕士学位期间主要的研究成果 | 第72-73页 |
致谢 | 第73页 |