致谢 | 第5-6页 |
摘要 | 第6-7页 |
ABSTRACT | 第7-8页 |
1 引言 | 第11-16页 |
1.1 论文研究背景和意义 | 第11-12页 |
1.2 研究现状 | 第12-14页 |
1.3 论文内容及组织结构 | 第14-16页 |
2 Hadoop分布式系统 | 第16-30页 |
2.1 大数据概述 | 第16-17页 |
2.2 Hadoop平台 | 第17-27页 |
2.2.1 分布式文件系统(HDFS) | 第21-25页 |
2.2.2 MapReduce并行计算框架 | 第25-27页 |
2.3 MapReduce任务优化 | 第27-29页 |
2.4 本章小结 | 第29-30页 |
3 MapReduce的任务调度算法 | 第30-38页 |
3.1 先进先出调度算法(FIFO) | 第30页 |
3.2 公平调度算法(Fair Scheduler) | 第30-34页 |
3.3 计算能力调度算法(Capacity Scheduler) | 第34-35页 |
3.4 算法的优势和局限性 | 第35-37页 |
3.5 延迟调度算法 | 第37页 |
3.6 本章小结 | 第37-38页 |
4 基于异构Hadoop分布式系统数据密集型任务的研究 | 第38-51页 |
4.1 算法产生背景 | 第38-39页 |
4.2 基于异构节点性能的数据放置策略 | 第39-43页 |
4.3 基于负载均衡的动态延迟调度算法 | 第43-47页 |
4.3.1 动态延时等待时间的数学模型 | 第43-45页 |
4.3.2 动态延时等待时间的计算 | 第45页 |
4.3.3 节点负载的分级模型 | 第45-47页 |
4.4 算法描述及流程 | 第47-50页 |
4.4.1 算法描述 | 第47-48页 |
4.4.2 算法代码及流程 | 第48-50页 |
4.5 本章小结 | 第50-51页 |
5 仿真结果及分析 | 第51-63页 |
5.1 实验集群平台搭建 | 第51-53页 |
5.2 实验与结果分析 | 第53-61页 |
5.2.1 实验设定 | 第53-55页 |
5.2.2 异构数据放置策略的性能实验 | 第55-57页 |
5.2.3 基于负载均衡的延迟调度算法的实验 | 第57-59页 |
5.2.4 组合策略在异构系统的实验 | 第59-61页 |
5.3 本章小结 | 第61-63页 |
6 总结与展望 | 第63-65页 |
6.1 总结 | 第63页 |
6.2 展望 | 第63-65页 |
参考文献 | 第65-68页 |
作者简历及攻读硕士/博士学位期间取得的研究成果 | 第68-70页 |
学位论文数据集 | 第70页 |