摘要 | 第8-10页 |
ABSTRACT | 第10-11页 |
第一章 引言 | 第12-23页 |
1.1 课题研究背景 | 第12-14页 |
1.1.1 大数据与分布式计算系统 | 第12-13页 |
1.1.2 分布式内存计算系统Spark概述 | 第13-14页 |
1.2 研究内容 | 第14-16页 |
1.2.1 课题来源 | 第14页 |
1.2.2 课题研究的重点 | 第14-15页 |
1.2.3 课题研究的难点 | 第15-16页 |
1.3 相关工作 | 第16-19页 |
1.3.1 分布式系统内存管理 | 第16-18页 |
1.3.2 分布式系统缓存策略研究 | 第18-19页 |
1.4 本文的主要工作 | 第19-20页 |
1.5 论文结构 | 第20-23页 |
第二章 分布式内存计算系统Spark实现机制 | 第23-33页 |
2.1 Spark概述 | 第23-27页 |
2.1.1 Map-Reduce在Spark中的实现 | 第23-25页 |
2.1.2 Spark中应用的运行流程和模式 | 第25-27页 |
2.2 Spark系统资源管理分析 | 第27-30页 |
2.3 Spark内存管理 | 第30-32页 |
2.3.1 Shuffle Memory | 第30-31页 |
2.3.2 Storage Memory | 第31页 |
2.3.3 Unroll Memory | 第31-32页 |
2.4 本章小结 | 第32-33页 |
第三章 Spark内存管理机制的测试与分析 | 第33-40页 |
3.1 Shuffle Memory使用特点测试 | 第33-34页 |
3.2 Storage Memory使用特点测试 | 第34-36页 |
3.3 两种Shuffle模式内存使用特点研究测试 | 第36-38页 |
3.3.1 Hash-Based Shuffle研究 | 第36-37页 |
3.3.2 Sort-Based Shuffle研究 | 第37-38页 |
3.3.3 两种Shuffle模式的测试分析 | 第38页 |
3.4 研究过程的实验环境和测试数据 | 第38-39页 |
3.5 本章小结 | 第39-40页 |
第四章 一种分布式权值缓存策略——DWRP的设计与实现 | 第40-49页 |
4.1 Spark缓存策略分析 | 第40-42页 |
4.1.1 Spark系统的LRU策略 | 第40-41页 |
4.1.2 Spark系统中LRU策略的缺陷 | 第41-42页 |
4.2 分布式权值缓存策略DWRP在Spark中的设计 | 第42-44页 |
4.3 分布式权值缓存策略DWRP在Spark中的实现 | 第44-46页 |
4.4 分布式权值缓存策略DWRP测试与性能分析 | 第46-48页 |
4.5 本章小结 | 第48-49页 |
第五章 一种二次执行缓存策略——DERP的设计与实现 | 第49-57页 |
5.1 二次执行缓存策略DERP的可行性分析 | 第49-51页 |
5.1.1 Spark系统应用程序运行的特点 | 第49-51页 |
5.1.2 Spark系统中DERP的可行性 | 第51页 |
5.2 二次执行缓存策略DERP在Spark系统中的设计 | 第51-53页 |
5.3 二次执行缓存策略DERP在Spark系统中的实现 | 第53-54页 |
5.4 二次执行缓存策略的测试与性能分析 | 第54-56页 |
5.5 本章小结 | 第56-57页 |
第六章 总结 | 第57-59页 |
6.1 总结 | 第57-58页 |
6.2 问题和改进 | 第58-59页 |
致谢 | 第59-60页 |
参考文献 | 第60-64页 |
作者在学期间取得的学术成果 | 第64页 |