| 摘要 | 第5-7页 |
| ABSTRACT | 第7-8页 |
| 第1章 绪论 | 第20-27页 |
| 1.1 研究内容与背景 | 第20-21页 |
| 1.2 研究意义 | 第21-24页 |
| 1.2.1 场景举例 | 第21-23页 |
| 1.2.2 资源受限平台运行深度模型的难点 | 第23-24页 |
| 1.3 本文的主要工作及组织结构 | 第24-26页 |
| 1.3.1 本文的主要工作 | 第24-25页 |
| 1.3.2 本文的组织结构 | 第25-26页 |
| 1.4 本章小结 | 第26-27页 |
| 第2章 背景知识及调研综述 | 第27-43页 |
| 2.1 深度模型介绍 | 第27-37页 |
| 2.1.1 人工神经网络 | 第27-29页 |
| 2.1.2 深度神经网络 | 第29-30页 |
| 2.1.3 深度卷积神经网络 | 第30-31页 |
| 2.1.4 针对物体检测的R-CNN模型 | 第31-33页 |
| 2.1.5 针对机器翻译的深度模型 | 第33-37页 |
| 2.2 深度神经网络简化综述 | 第37-41页 |
| 2.2.1 工程性加速 | 第38页 |
| 2.2.2 参数约减 | 第38-39页 |
| 2.2.3 高维模型降维 | 第39-41页 |
| 2.3 本章小结 | 第41-43页 |
| 第3章 基于优化的深度模型压缩 | 第43-60页 |
| 3.1 概述 | 第43-45页 |
| 3.2 相关研究 | 第45-46页 |
| 3.3 算法介绍 | 第46-52页 |
| 3.3.1 OLMP | 第47-49页 |
| 3.3.2 使用OLMP进行DNN压缩 | 第49-50页 |
| 3.3.3 OLMP实现 | 第50-52页 |
| 3.4 实验及分析 | 第52-59页 |
| 3.4.1 LeNet系列模型上的压缩效果对比 | 第53页 |
| 3.4.2 AlexNet结构上的压缩效果对比 | 第53-55页 |
| 3.4.3 δ和σ之间的敏感度分析 | 第55-57页 |
| 3.4.4 不组合迭代式压缩流程的OLMP裁剪性能 | 第57-59页 |
| 3.5 本章小结 | 第59-60页 |
| 第4章 针对机器翻译深度模型的压缩研究 | 第60-81页 |
| 4.1 概述 | 第60-62页 |
| 4.2 相关研究 | 第62-63页 |
| 4.3 NMT常用连接结构 | 第63-65页 |
| 4.3.1 反馈式模型 | 第64页 |
| 4.3.2 前馈式模型 | 第64-65页 |
| 4.4 连接分组策略与模型裁剪 | 第65-70页 |
| 4.4.1 Time-wise连接分组策略 | 第65-68页 |
| 4.4.2 Residual-wise连接分组策略 | 第68页 |
| 4.4.3 其他连接分组策略 | 第68-69页 |
| 4.4.4 模型裁剪方案 | 第69-70页 |
| 4.5 实验及分析 | 第70-79页 |
| 4.5.1 数据集与评价指标 | 第70-74页 |
| 4.5.2 实验设置 | 第74-75页 |
| 4.5.3 分组策略效果对比 | 第75-77页 |
| 4.5.4 不同δ值下分组策略裁剪效果的变化 | 第77页 |
| 4.5.5 RNNSearch和Luong-Net变体模型上的裁剪效果 | 第77-79页 |
| 4.6 本章小结 | 第79-81页 |
| 第5章 针对物体检测深度模型的加速研究 | 第81-102页 |
| 5.1 概述 | 第81-83页 |
| 5.2 相关工作 | 第83-85页 |
| 5.2.1 加速分类过程 | 第84页 |
| 5.2.2 加速RoI生成过程 | 第84-85页 |
| 5.3 R~2-CNN方法:RoI生成 | 第85-91页 |
| 5.3.1 步骤一:生成Integrate Feature Map | 第86-87页 |
| 5.3.2 步骤二:生成Feature Level | 第87-88页 |
| 5.3.3 步骤三:生成RoI | 第88-89页 |
| 5.3.4 步骤四:Local Search | 第89-91页 |
| 5.4 R~2-CNN方法:整体框架 | 第91-94页 |
| 5.4.1 递归微调(Recursive Fine-tuning)与其实现 | 第91-94页 |
| 5.5 实验及分析 | 第94-100页 |
| 5.5.1 实验设置 | 第96页 |
| 5.5.2 RoI生成速度对比 | 第96-97页 |
| 5.5.3 物体检测的性能对比 | 第97-98页 |
| 5.5.4 RoI质量对比 | 第98页 |
| 5.5.5 不同卷积层选择对R~2-CNN的影响 | 第98-100页 |
| 5.6 本章小结 | 第100-102页 |
| 第6章 总结 | 第102-105页 |
| 参考文献 | 第105-115页 |
| 致谢 | 第115-117页 |
| 在读期间发表的学术论文与取得的研究成果 | 第117-118页 |
