Spark计算框架性能建模与优化技术的研究与实现
摘要 | 第5-7页 |
ABSTRACT | 第7-8页 |
符号对照表 | 第11-12页 |
缩略语对照表 | 第12-15页 |
第一章 绪论 | 第15-19页 |
1.1 研究背景 | 第15-16页 |
1.2 国内外研究现状 | 第16-17页 |
1.2.1 国内研究现状 | 第16页 |
1.2.2 国外研究现状 | 第16-17页 |
1.3 论文主要工作 | 第17-18页 |
1.4 论文组织结构 | 第18页 |
1.5 本章小结 | 第18-19页 |
第二章 相关理论和技术 | 第19-27页 |
2.1 Spark介绍 | 第19-23页 |
2.1.1 Spark简介 | 第19-20页 |
2.1.2 Spark的架构 | 第20-21页 |
2.1.3 弹性分布式数据集 | 第21-23页 |
2.2 优化算法 | 第23-25页 |
2.2.1 随机网格算法(RG) | 第24页 |
2.2.2 递归随机搜索(RRS) | 第24页 |
2.2.3 遗传算法(GA) | 第24-25页 |
2.2.4 粒子群优化算法(PSO) | 第25页 |
2.3 本章小结 | 第25-27页 |
第三章 Spark框架性能优化建模 | 第27-37页 |
3.1 Spark执行过程建模 | 第27-34页 |
3.1.1 Spark运行过程分析 | 第27-30页 |
3.1.2 Task性能建模 | 第30-33页 |
3.1.3 性能相关参数 | 第33-34页 |
3.2 Spark优化问题建模 | 第34-36页 |
3.2.1 问题定义 | 第35页 |
3.2.2 问题假设 | 第35页 |
3.2.3 问题建模 | 第35-36页 |
3.3 本章小结 | 第36-37页 |
第四章 Spark框架性能优化方法 | 第37-55页 |
4.1 Spark性能优化方法 | 第37-38页 |
4.2 运行数据收集 | 第38-45页 |
4.2.1 性能特征集合 | 第38-42页 |
4.2.2 Task信息收集 | 第42-44页 |
4.2.3 DAG信息收集 | 第44-45页 |
4.3 预测模型 | 第45-52页 |
4.3.1 Task预测模型 | 第46-49页 |
4.3.2 模拟运行调度 | 第49-52页 |
4.4 基于代价的优化算法 | 第52-54页 |
4.5 本章小结 | 第54-55页 |
第五章 实验结果与分析 | 第55-63页 |
5.1 实验过程介绍 | 第55-57页 |
5.1.1 硬件环境 | 第55页 |
5.1.2 软件环境 | 第55页 |
5.1.3 实验过程说明 | 第55-57页 |
5.2 实验结果与分析 | 第57-61页 |
5.2.1 预测执行时间准确性 | 第57-58页 |
5.2.2 CBO与RBO优化结果对比 | 第58-61页 |
5.3 本章小结 | 第61-63页 |
第六章 总结与展望 | 第63-65页 |
参考文献 | 第65-67页 |
致谢 | 第67-69页 |
作者简介 | 第69-70页 |