基于Hadoop集群的作业调度算法研究与改进
摘要 | 第4-5页 |
Abstract | 第5-6页 |
第1章 绪论 | 第9-17页 |
1.1 课题的背景与意义 | 第9-10页 |
1.2 国内外发展现状 | 第10-15页 |
1.2.1 国外研究动态 | 第10-12页 |
1.2.2 国内研究动态 | 第12-15页 |
1.3 研究内容 | 第15页 |
1.4 章节安排 | 第15-16页 |
1.5 本章小结 | 第16-17页 |
第2章 Hadoop平台及相关技术 | 第17-29页 |
2.1 Hadoop概述 | 第17-18页 |
2.2 Hadoop系统架构 | 第18-25页 |
2.2.1 HDFS分布式文件系统 | 第19-22页 |
2.2.2 MapReduce计算框架 | 第22-25页 |
2.3 MapReduce作业调度算法 | 第25-27页 |
2.3.1 默认调度器FIFO | 第25-26页 |
2.3.2 公平调度器 | 第26页 |
2.3.3 计算能力调度器 | 第26-27页 |
2.4 调度算法的数据本地性 | 第27-28页 |
2.5 本章小结 | 第28-29页 |
第3章 基于本地性调度的抢占策略设计 | 第29-40页 |
3.1 算法产生背景 | 第29-30页 |
3.2 本地性调度算法设计 | 第30-34页 |
3.2.1 Map任务的本地性调度算法 | 第31-33页 |
3.2.2 Reduce任务本地性调度算法 | 第33-34页 |
3.3 集成抢占式的本地性调度算法 | 第34-39页 |
3.3.1 Reduce任务资源被抢占时机 | 第35-38页 |
3.3.2 Reduce任务重调度时机 | 第38-39页 |
3.4 本章小结 | 第39-40页 |
第4章 基于本地性调度的抢占策略实现 | 第40-45页 |
4.1 本地性调度算法 | 第40-41页 |
4.1.1 Map任务节点选取模型实现 | 第40-41页 |
4.1.2 Reduce任务节点选取模型实现 | 第41页 |
4.2 集成抢占式调度算法实现 | 第41-43页 |
4.2.1 Reduce任务资源被抢占模型实现 | 第41-43页 |
4.2.2 Reduce任务资源重调度模型实现 | 第43页 |
4.3 本章小结 | 第43-45页 |
第5章 实验验证与结果分析 | 第45-52页 |
5.1 实验环境说明 | 第45页 |
5.2 Hadoop集群搭建 | 第45-47页 |
5.3 本地性调度算法的性能分析 | 第47-49页 |
5.4 集成抢占式本地性调度算法的性能分析 | 第49-51页 |
5.5 本章小结 | 第51-52页 |
第6章 结论 | 第52-54页 |
参考文献 | 第54-58页 |
在学研究成果 | 第58-59页 |
致谢 | 第59页 |