摘要 | 第5-6页 |
Abstract | 第6-7页 |
第1章 绪论 | 第12-20页 |
1.1 研究背景 | 第12-14页 |
1.2 研究现状 | 第14-17页 |
1.2.1 存储容错研究现状 | 第14-16页 |
1.2.2 计算容错研究现状 | 第16-17页 |
1.3 研究内容与主要工作 | 第17-18页 |
1.4 论文的组织结构 | 第18-20页 |
第2章 Hadoop平台及其计算容错机制概述 | 第20-40页 |
2.1 Hadoop平台概述 | 第20-26页 |
2.1.1 HDFS存储框架 | 第20-23页 |
2.1.2 MapReduce计算框架 | 第23-25页 |
2.1.3 Hadoop生态系统 | 第25-26页 |
2.2 Hadoop任务执行流程 | 第26-29页 |
2.2.1 Map任务执行流程 | 第27-28页 |
2.2.2 Reduce任务执行流程 | 第28-29页 |
2.3 计算容错机制 | 第29-33页 |
2.3.1 心跳机制 | 第29页 |
2.3.2 任务失败处理 | 第29-30页 |
2.3.3 节点故障时的任务处理 | 第30-31页 |
2.3.4 YARN避免JobTracker单节点故障 | 第31-32页 |
2.3.5 任务调度容错机制 | 第32-33页 |
2.4 MapReduce推测执行相关的研究 | 第33-38页 |
2.4.1 NA?VE推测执行策略 | 第33-35页 |
2.4.2 LATE推测执行策略 | 第35-36页 |
2.4.3 MCP推测执行策略 | 第36-38页 |
2.5 小结 | 第38-40页 |
第3章 负载感知的启发式推测执行策略 | 第40-54页 |
3.1 设计动机 | 第40-43页 |
3.1.1 LATE策略存在的问题 | 第40-42页 |
3.1.2 系统负载对任务执行时间的影响 | 第42-43页 |
3.2 负载感知的启发式推测执行策略 | 第43-47页 |
3.2.1 负载感知的任务剩余时间评估模型 | 第43-45页 |
3.2.2 任务推测执行优先级确定方式 | 第45-46页 |
3.2.3 掉队任务的判断 | 第46页 |
3.2.4 快慢节点判断 | 第46-47页 |
3.2.5 ERUL策略总结 | 第47页 |
3.3 实验结果与分析 | 第47-52页 |
3.3.1 任务剩余执行时间评估 | 第48-49页 |
3.3.2 作业完成时间 | 第49-52页 |
3.3.3 集群作业吞吐量 | 第52页 |
3.4 小结 | 第52-54页 |
第4章 异构环境下的MapReduce推测执行改进策略 | 第54-65页 |
4.1 MCP策略存在的问题 | 第54-56页 |
4.1.1 未对Map任务分类 | 第54-55页 |
4.1.2 选择备份任务执行节点的缺陷 | 第55页 |
4.1.3 MCP模型存在的缺陷 | 第55-56页 |
4.2 异构环境下的推测执行改进策略 | 第56-59页 |
4.2.1 Map任务分类 | 第56页 |
4.2.2 处理备份任务的节点选择 | 第56-57页 |
4.2.3 推测执行的可行性保证 | 第57-58页 |
4.2.4 exMCP策略执行流程 | 第58-59页 |
4.3 实验结果与分析 | 第59-64页 |
4.3.1 不同作业执行情况比较 | 第60-63页 |
4.3.2 算法复杂度分析 | 第63-64页 |
4.4 小结 | 第64-65页 |
结论 | 第65-67页 |
参考文献 | 第67-72页 |
致谢 | 第72-73页 |
附录A 攻读硕士学位期间所发表的学术论文目录 | 第73-74页 |
附录B 攻读硕士学位期间所参与的学术科研活动 | 第74页 |