摘要 | 第5-6页 |
Abstract | 第6-7页 |
第一章 绪论 | 第11-14页 |
1.1 研究工作的背景及意义 | 第11-12页 |
1.2 本文主要研究内容 | 第12-13页 |
1.3 本文组织结构 | 第13-14页 |
第二章 Hadoop平台和Hama并行计算框架概述 | 第14-34页 |
2.1 Hadoop平台概述 | 第14页 |
2.2 Hadoop分布式文件系统 | 第14-19页 |
2.2.1 HDFS系统架构 | 第16-17页 |
2.2.2 HDFS文件块 | 第17-19页 |
2.3 Hadoop MapReduce计算框架 | 第19-21页 |
2.3.1 Hadoop MapReduce架构 | 第19-20页 |
2.3.2 Hadoop MapReduce作业链 | 第20-21页 |
2.4 Hama并行计算框架 | 第21-33页 |
2.4.1 Hama并行计算框架概述 | 第21页 |
2.4.2 BSP模型 | 第21-24页 |
2.4.3 Hama系统架构 | 第24-25页 |
2.4.4 Hama作业类型 | 第25-26页 |
2.4.5 Hama作业生命周期 | 第26-30页 |
2.4.6 Hama集群管理 | 第30-31页 |
2.4.7 Hama常用API | 第31-33页 |
2.5 本章小结 | 第33-34页 |
第三章 Hama和Hadoop作业调度算法概述 | 第34-40页 |
3.1 Hama作业调度 | 第34-37页 |
3.1.1 Hama作业调度框架 | 第34页 |
3.1.2 Hama先来先服务作业调度器 | 第34-37页 |
3.2 Hadoop MapReduce作业调度器 | 第37-39页 |
3.2.1 FIFO调度器 | 第37-38页 |
3.2.2 公平调度器 | 第38页 |
3.2.3 容量调度器 | 第38-39页 |
3.3 本章小结 | 第39-40页 |
第四章 基于Hama并行计算框架的多层级作业调度算法的设计 | 第40-51页 |
4.1 背景介绍 | 第40-41页 |
4.2 算法思想 | 第41-47页 |
4.2.1 资源管理 | 第41-43页 |
4.2.2 选择策略 | 第43-45页 |
4.2.3 任务分配策略 | 第45-46页 |
4.2.4 作业调度器配置 | 第46-47页 |
4.3 算法流程 | 第47-50页 |
4.4 本章小结 | 第50-51页 |
第五章 基于Hama并行计算框架的多层级作业调度算法的实现 | 第51-63页 |
5.1 实现概述 | 第51页 |
5.2 具体实现 | 第51-62页 |
5.2.1 作业调度流程管理类 | 第52-57页 |
5.2.2 资源管理类 | 第57-60页 |
5.2.3 各个资源层级选择策略接 | 第60-62页 |
5.2.4 配置文件监听 | 第62页 |
5.3 本章小结 | 第62-63页 |
第六章 测试和实验验证 | 第63-79页 |
6.1 实验平台的搭建 | 第63-64页 |
6.2 功能性测试实验 | 第64-73页 |
6.2.1 单作业运行测试 | 第64-66页 |
6.2.2 多用户共享测试 | 第66-69页 |
6.2.3 限制条件测试 | 第69-72页 |
6.2.4 配置文件动态加载测试 | 第72-73页 |
6.3 性能对比实验 | 第73-78页 |
6.3.1 单作业性能对比 | 第74-76页 |
6.3.2 多用户共享性能对比 | 第76-77页 |
6.3.3 性能对比实验结果分析 | 第77-78页 |
6.4 实验结论 | 第78页 |
6.5 本章小结 | 第78-79页 |
第七章 结论 | 第79-81页 |
7.1 全文总结 | 第79页 |
7.2 后续工作展望 | 第79-81页 |
致谢 | 第81-82页 |
参考文献 | 第82-85页 |