摘要 | 第5-6页 |
Abstract | 第6-7页 |
第1章 绪论 | 第10-14页 |
1.1 论文研究背景及意义 | 第10-11页 |
1.2 论文研究内容 | 第11页 |
1.3 国内外研究现状 | 第11-12页 |
1.4 论文组织结构 | 第12-14页 |
第2章 相关理论知识研究 | 第14-30页 |
2.1 分布式并行计算 | 第14-15页 |
2.2 任务调度策略 | 第15-16页 |
2.3 Hadoop的HDFS和MapReduce介绍 | 第16-20页 |
2.3.1 HDFS文件系统介绍 | 第16-17页 |
2.3.2 MapReduce介绍 | 第17-20页 |
2.4 调度器的工作流程和编写方法 | 第20-24页 |
2.5 Hadoop现有调度器 | 第24-30页 |
2.5.1 FIFO调度器 | 第24页 |
2.5.2 Fair调度器 | 第24-26页 |
2.5.3 Capacity调度器 | 第26-27页 |
2.5.4 推测式任务调度器 | 第27-30页 |
第3章 作业调度方案的设计与实现 | 第30-50页 |
3.1 现有调度器性能实验 | 第30-32页 |
3.2 现有调度器的不足 | 第32-33页 |
3.3 作业调度方案整体介绍 | 第33-34页 |
3.4 基于自适应槽位的负载均衡算法AS(Adaptive Slots) | 第34-41页 |
3.4.1 Hadoop作业分配分析 | 第34-35页 |
3.4.2 算法核心思想 | 第35-37页 |
3.4.3 算法设计 | 第37-39页 |
3.4.4 算法实现 | 第39-41页 |
3.5 多队列短作业优先调度器(Muti-Queue short job first) | 第41-50页 |
3.5.1 调度器设计目标 | 第42页 |
3.5.2 调度器设计 | 第42-44页 |
3.5.3 调度器流程图 | 第44-45页 |
3.5.4 调度器实现 | 第45-50页 |
第4章 实验设计与分析 | 第50-64页 |
4.1 实验设备和配置以及实验所用数据 | 第50-51页 |
4.2 AS算法性能的测试 | 第51-54页 |
4.3 测试多队列短作业优先调度器阈值的仿真实验 | 第54-57页 |
4.3.1 仿真实验使用数据 | 第54-55页 |
4.3.2 调度器仿真实验 | 第55-56页 |
4.3.3 仿真实验结果 | 第56-57页 |
4.4 作业调度方案在Hadoop集群上的测试 | 第57-60页 |
4.4.1 同构环境下作业的总运行时间 | 第57-58页 |
4.4.2 同构环境下作业的平均周转时间 | 第58-59页 |
4.4.3 异构环境下作业的总运行时间 | 第59页 |
4.4.4 异构环境下作业的平均周转时间 | 第59-60页 |
4.5 多队列短作业优先算法的参数调整效果验证 | 第60-64页 |
第5章 总结与展望 | 第64-66页 |
5.1 总结 | 第64页 |
5.2 展望 | 第64-66页 |
参考文献 | 第66-70页 |
致谢 | 第70页 |