Hama图并行计算框架中任务槽模型及其对作业调度性能的影响
摘要 | 第5-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第11-14页 |
1.1 研究工作的背景及意义 | 第11页 |
1.2 国内外研究现状 | 第11-12页 |
1.3 研究内容 | 第12页 |
1.4 内容安排 | 第12-14页 |
第二章 Hadoop/Hama并行计算框架概述 | 第14-31页 |
2.1 Hadoop平台及其生态系统 | 第14-21页 |
2.1.1 分布式文件系统HDFS | 第16-18页 |
2.1.2 计算框架Map-Reduce | 第18-20页 |
2.1.3 Hadoop YARN | 第20-21页 |
2.2 Hama图并行计算框架 | 第21-30页 |
2.2.1 BSP计算模型 | 第21-23页 |
2.2.2 Hama功能结构 | 第23-25页 |
2.2.3 Hama作业类型 | 第25-26页 |
2.2.4 Hama作业生命周期 | 第26-30页 |
2.3 本章小结 | 第30-31页 |
第三章 Hama作业调度算法 | 第31-37页 |
3.1 Hadoop YARN作业调度器 | 第31-33页 |
3.1.1 先来先服务调度器 | 第31-32页 |
3.1.2 公平调度器 | 第32-33页 |
3.1.3 能力调度器 | 第33页 |
3.2 Hama作业调度器 | 第33-35页 |
3.3 调度算法总结 | 第35-36页 |
3.4 本章小结 | 第36-37页 |
第四章 基于Hama的任务槽模型及作业调度算法 | 第37-50页 |
4.1 设计分析 | 第37-38页 |
4.2 任务槽模型 | 第38-41页 |
4.2.1 集群资源 | 第39页 |
4.2.2 资源池 | 第39-40页 |
4.2.3 用户队列 | 第40页 |
4.2.4 任务槽模型实例 | 第40-41页 |
4.3 作业调度 | 第41-44页 |
4.3.1 资源池选择 | 第41-42页 |
4.3.2 用户队列选择 | 第42页 |
4.3.3 作业选择 | 第42页 |
4.3.4 作业调度器配置 | 第42-44页 |
4.4 优先级作业调度算法 | 第44-49页 |
4.4.1 优先级的类型 | 第44-45页 |
4.4.2 优先级调度算法 | 第45-46页 |
4.4.3 算法流程 | 第46-49页 |
4.5 本章小结 | 第49-50页 |
第五章 任务槽模型及作业调度算法实现 | 第50-62页 |
5.1 环境配置 | 第50页 |
5.2 具体实现 | 第50-61页 |
5.2.1 多层级资源管理 | 第51-55页 |
5.2.2 多层级调度框架 | 第55-57页 |
5.2.3 多层级调度策略 | 第57-58页 |
5.2.4 优先级作业调度算法 | 第58-61页 |
5.3 本章小结 | 第61-62页 |
第六章 实验验证 | 第62-80页 |
6.1 实验平台及配置 | 第62-63页 |
6.2 功能测试 | 第63-75页 |
6.2.1 系统流程测试 | 第63-65页 |
6.2.2 多用户共享功能测试 | 第65-69页 |
6.2.3 条件约束测试 | 第69-73页 |
6.2.4 动态配置测试 | 第73-75页 |
6.3 性能测试及对比 | 第75-79页 |
6.3.1 单作业性能对比 | 第77-78页 |
6.3.2 多用户共享性能对比 | 第78-79页 |
6.4 实验结论 | 第79页 |
6.5 本章小结 | 第79-80页 |
第七章 结论 | 第80-82页 |
7.1 全文总结 | 第80页 |
7.2 后续工作展望 | 第80-82页 |
致谢 | 第82-83页 |
参考文献 | 第83-85页 |