摘要 | 第4-5页 |
Abstract | 第5页 |
第1章 绪论 | 第8-17页 |
1.1 课题背景及研究的目的和意义 | 第8-9页 |
1.2 国内外研究现状 | 第9-15页 |
1.3 本文主要研究内容 | 第15-17页 |
第2章 FSPY调度器研究概述 | 第17-24页 |
2.1 调度器执行的上下文 | 第17-20页 |
2.1.1 作业与子任务 | 第17-18页 |
2.1.2 YARN的资源管理模式 | 第18-20页 |
2.2 调度器的设计目标 | 第20-21页 |
2.2.1 响应性 | 第20-21页 |
2.2.2 公平性 | 第21页 |
2.3 调度器的设计思想 | 第21-23页 |
2.4 本章小结 | 第23-24页 |
第3章 作业体量预测方法的研究 | 第24-33页 |
3.1 预测方法概述 | 第24-26页 |
3.2 预测模型的设计 | 第26-29页 |
3.2.1 Map Reduce作业整体体量的预测模型 | 第26-27页 |
3.2.2 Map子任务执行时长的预测模型 | 第27-28页 |
3.2.3 Reduce子任务执行时长的预测模型 | 第28-29页 |
3.3 探测作业执行框架的设计与实现 | 第29-31页 |
3.4 预测模型的训练 | 第31-32页 |
3.5 本章小结 | 第32-33页 |
第4章 作业虚拟体量估算方法的研究 | 第33-39页 |
4.1 估算方法概述 | 第33-35页 |
4.1.1 YARN下虚拟体量估算面临的挑战 | 第33-34页 |
4.1.2 基于作业平均并行度约束的估算方法 | 第34-35页 |
4.2 关键算法设计 | 第35-38页 |
4.2.1 虚拟资源分配算法 | 第36-37页 |
4.2.2 虚拟体量计算算法 | 第37-38页 |
4.3 本章小结 | 第38-39页 |
第5章 FSPY资源调度器的设计与实现 | 第39-50页 |
5.1 FSPY调度器的执行框架 | 第39-41页 |
5.2 FSPY资源调度器与YARN的技术整合 | 第41-44页 |
5.3 FSPY调度器中的关键执行流程 | 第44-49页 |
5.3.1 作业提交后的执行流程 | 第44-46页 |
5.3.2 作业探测完成后的执行流程 | 第46-47页 |
5.3.3 资源分配流程 | 第47-48页 |
5.3.4 作业结束的执行流程 | 第48-49页 |
5.4 本章小结 | 第49-50页 |
第6章 系统验证 | 第50-63页 |
6.1 实验环境 | 第50页 |
6.2 Map Reduce作业体量预测模块的验证 | 第50-53页 |
6.2.1 验证方法与过程 | 第50-51页 |
6.2.2 实验结果和分析 | 第51-53页 |
6.3 FSPY资源调度器整体性能的验证 | 第53-62页 |
6.3.1 验证方法与过程 | 第53-55页 |
6.3.2 实验结果和分析 | 第55-62页 |
6.4 本章小结 | 第62-63页 |
结论 | 第63-64页 |
参考文献 | 第64-68页 |
攻读学位期间发表的学术论文及其它成果 | 第68-70页 |
致谢 | 第70页 |