基于MLFQ的Hadoop作业调度算法研究与优化
| 摘要 | 第5-6页 |
| Abstract | 第6页 |
| 第1章 绪论 | 第11-17页 |
| 1.1 研究背景 | 第11页 |
| 1.2 目的和意义 | 第11-12页 |
| 1.3 国内外研究现状 | 第12-13页 |
| 1.4 主要研究内容 | 第13-14页 |
| 1.5 论文章节安排 | 第14-17页 |
| 第2章 相关技术 | 第17-29页 |
| 2.1 Hadoop基本架构 | 第17-18页 |
| 2.1.1 Hadoop HDFS的体系架构 | 第17页 |
| 2.1.2 Hadoop MapReduce架构 | 第17-18页 |
| 2.2 Hado叩作业执行机制 | 第18-24页 |
| 2.2.1 作业执行过程 | 第18-22页 |
| 2.2.2 Map任务的运行过程 | 第22-23页 |
| 2.2.3 Reduce任务的运行过程 | 第23-24页 |
| 2.3 Hadoop作业调度 | 第24-28页 |
| 2.3.1 Hadoop作业调度器 | 第24-25页 |
| 2.3.2 FIFO调度器 | 第25-26页 |
| 2.3.3 Capacity调度器分析 | 第26-27页 |
| 2.3.4 Fair调度器分析 | 第27-28页 |
| 2.4 本章小结 | 第28-29页 |
| 第3章 基于MLFQ的Hadoop作业调度算法 | 第29-47页 |
| 3.1 现有调度算法的问题 | 第29-30页 |
| 3.2 多级反馈队列 | 第30-33页 |
| 3.2.1 多级反馈队列实施过程 | 第31页 |
| 3.2.2 多级反馈队列性能分析 | 第31-32页 |
| 3.2.3 多级反馈队列与Hadoop的结合 | 第32-33页 |
| 3.3 基于MLFQ的Hadoop作业调度算法 | 第33-43页 |
| 3.3.1 算法思想 | 第34页 |
| 3.3.2 作业存储 | 第34-39页 |
| 3.3.3 作业调度 | 第39-42页 |
| 3.3.4 算法复杂度分析 | 第42-43页 |
| 3.4 MLFQ作业调度器的实现 | 第43-45页 |
| 3.5 本章小结 | 第45-47页 |
| 第4章 Hadoop MLFQ作业调度算法的优化 | 第47-61页 |
| 4.1 Map任务延迟调度 | 第47-52页 |
| 4.1.1 算法提出背景 | 第47-49页 |
| 4.1.2 Map任务延迟调度算法 | 第49-52页 |
| 4.2 Reduce任务延迟调度 | 第52-60页 |
| 4.2.1 算法提出背景 | 第52-55页 |
| 4.2.2 Reduce延迟调度算法 | 第55-60页 |
| 4.3 本章小结 | 第60-61页 |
| 第5章 Hadoop MLFQ算法性能测试 | 第61-71页 |
| 5.1 Hadoop平台搭建 | 第61-63页 |
| 5.2 测试及数据收集 | 第63-65页 |
| 5.2.1 测试数据集 | 第63页 |
| 5.2.2 测试方法 | 第63-64页 |
| 5.2.3 数据收集 | 第64-65页 |
| 5.3 实验结果分析 | 第65-69页 |
| 5.3.1 作业平均响应时间 | 第65-67页 |
| 5.3.2 作业平均响应时间总和 | 第67-68页 |
| 5.3.3 作业总完成时间 | 第68-69页 |
| 5.4 本章小结 | 第69-71页 |
| 第6章 总结与展望 | 第71-73页 |
| 6.1 总结 | 第71-72页 |
| 6.2 展望 | 第72-73页 |
| 参考文献 | 第73-77页 |
| 致谢 | 第77-79页 |
| 攻读硕士学位期间的论文和项目情况 | 第79页 |
