Hadoop作业调度算法分析与优化
摘要 | 第4-6页 |
Abstract | 第6-7页 |
第一章 绪论 | 第10-15页 |
1.1 研究背景 | 第10-11页 |
1.2 研究现状与意义 | 第11-13页 |
1.3 研究内容 | 第13-14页 |
1.4 论文组织结构 | 第14-15页 |
第二章 Hadoop作业调度算法分析 | 第15-34页 |
2.1 Hadoop平台架构 | 第15-20页 |
2.1.1 Hadoop分布式文件系统HDFS | 第15-18页 |
2.1.2 MapReduce计算框架 | 第18-20页 |
2.2 MapReduce作业处理流程 | 第20-22页 |
2.2.1 MapReduce运行时环境 | 第20-21页 |
2.2.2 MapReduce数据处理引擎 | 第21-22页 |
2.3 Hadoop作业调度算法分析与改进 | 第22-33页 |
2.3.1 FIFO调度算法分析 | 第23页 |
2.3.2 公平份额调度算法分析与改进 | 第23-28页 |
2.3.3 计算能力调度算法分析 | 第28-32页 |
2.3.4 Hadoop现有作业调度算法对比分析 | 第32-33页 |
2.4 本章小结 | 第33-34页 |
第三章 基于分类的Hadoop作业调度算法 | 第34-49页 |
3.1 Hadoop传统作业调度算法的不足 | 第34-35页 |
3.2 基于分类的Hadoop作业调度算法 | 第35-44页 |
3.2.1 算法思想 | 第35-37页 |
3.2.2 基于贝叶斯分类的调度算法理论推导 | 第37-40页 |
3.2.3 算法描述 | 第40-44页 |
3.3 基于资源需求类型的分类预处理 | 第44-48页 |
3.3.1 算法思想 | 第44页 |
3.3.2 基于资源需求类型的分类预处理 | 第44-48页 |
3.4 本章小结 | 第48-49页 |
第四章 实验结果与分析 | 第49-59页 |
4.1 实验环境搭建与配置 | 第49-51页 |
4.2 实验评估方法 | 第51-52页 |
4.3 实验结果与分析 | 第52-57页 |
4.3.1 作业分类调度对作业调度准确率的影响 | 第52-54页 |
4.3.2 作业分类调度对作业运行运行时间的影响 | 第54-56页 |
4.3.3 作业分类调度对集群资源使用率的影响 | 第56-57页 |
4.4 实验结论 | 第57-58页 |
4.5 本章小结 | 第58-59页 |
第五章 全文总结与展望 | 第59-61页 |
5.1 总结 | 第59-60页 |
5.2 展望 | 第60-61页 |
致谢 | 第61-62页 |
参考文献 | 第62-64页 |