摘要 | 第4-5页 |
abstract | 第5页 |
专用术语注释表 | 第8-9页 |
第一章 绪论 | 第9-15页 |
1.1 研究背景及意义 | 第9-10页 |
1.2 国内外研究现状 | 第10-14页 |
1.2.1 深度卷积神经网络的并行化研究现状 | 第10-11页 |
1.2.2 软件流水技术的研究现状 | 第11-12页 |
1.2.3 深度学习网络中损失函数的研究现状 | 第12-14页 |
1.3 论文的组织结构 | 第14-15页 |
第二章 卷积神经网络及流水线简介 | 第15-21页 |
2.1 深度卷积神经网络 | 第15-16页 |
2.2 并行计算简介 | 第16-18页 |
2.2.1 并行与并行计算 | 第16页 |
2.2.2 相关性 | 第16-17页 |
2.2.3 同步 | 第17页 |
2.2.4 评价指标 | 第17-18页 |
2.3 流水线简介 | 第18-20页 |
2.3.1 重叠方式 | 第18-19页 |
2.3.2 流水方式 | 第19-20页 |
2.4 本章小结 | 第20-21页 |
第三章 基于软件流水的卷积神经网络前向传播并行化方法 | 第21-30页 |
3.1 卷积神经网络前向传播简介 | 第21-23页 |
3.1.1 单个神经元 | 第21-22页 |
3.1.2 多层前馈神经网络 | 第22页 |
3.1.3 前向传播算法 | 第22-23页 |
3.2 基于软件流水的卷积神经网络前向传播算法主要思想及实现 | 第23-29页 |
3.2.1 软件流水前向传播算法的主要思想 | 第23-24页 |
3.2.2 任务分配算法 | 第24-25页 |
3.2.3 基于循环队列的软件流水前向传播算法实现 | 第25-26页 |
3.2.4 实验结果及分析 | 第26-29页 |
3.3 本章小结 | 第29-30页 |
第四章 基于软件流水的卷积神经网络并行化训练方法 | 第30-41页 |
4.1 基于软件流水的卷积神经网络反向传播算法 | 第30-34页 |
4.1.1 卷积神经网络反向传播算法 | 第30-32页 |
4.1.2 基于软件流水的卷积神经网络反向传播算法主要思想 | 第32-33页 |
4.1.3 Pipe CNN反向传播中最小任务单元的构建 | 第33-34页 |
4.2 基于软件流水的卷积神经网络参数更新方法 | 第34-38页 |
4.2.1 数据并行与模型并行 | 第34-35页 |
4.2.2 Pipe CNN的模型并行 | 第35-36页 |
4.2.3 Pipe CNN的权值更新 | 第36-38页 |
4.3 实验结果及分析 | 第38-40页 |
4.4 本章小结 | 第40-41页 |
第五章 基于改进Focal Loss损失函数的卷积神经网络 | 第41-49页 |
5.1 Focal Loss简介 | 第41-43页 |
5.2 基于Sigmoid改进的Focal Loss函数 | 第43-46页 |
5.2.1 Focal Loss的优缺点分析 | 第43页 |
5.2.2 基于Sigmoid函数改进的Focal Loss函数的主要思想 | 第43-46页 |
5.3 实验结果及分析 | 第46-48页 |
5.3.1 基于改进的Focal Loss函数在Retinanet网络中的实验 | 第46-47页 |
5.3.2 基于改进的Focal Loss函数在分类任务中的实验 | 第47-48页 |
5.4 本章小结 | 第48-49页 |
第六章 总结与展望 | 第49-51页 |
6.1 总结 | 第49页 |
6.2 展望 | 第49-51页 |
参考文献 | 第51-54页 |
附录1 攻读硕士学位期间撰写的论文 | 第54-55页 |
附录2 攻读硕士学位期间申请的专利 | 第55-56页 |
附录3 攻读硕士学位期间参加的科研项目 | 第56-57页 |
致谢 | 第57页 |