摘要 | 第4-5页 |
Abstract | 第5页 |
第1章 绪论 | 第9-14页 |
1.1 课题来源 | 第9页 |
1.2 课题研究的背景和意义 | 第9-10页 |
1.3 国内外在该方向的研究现状 | 第10-11页 |
1.4 论文主要研究内容 | 第11-12页 |
1.5 论文内容及结构 | 第12-14页 |
第2章 MapReduce 体系结构及容错机制的研究 | 第14-26页 |
2.1 MapReduce 体系结构概述 | 第14页 |
2.2 Hadoop 分布式文件系统 | 第14-15页 |
2.3 HDFS 的基本结构 | 第15-18页 |
2.3.1 MapReduce 的基本结构 | 第16-18页 |
2.4 目录文件结构 | 第18-19页 |
2.5 MapReduce 的失效检测 | 第19-22页 |
2.5.1 worker 节点失效 | 第20页 |
2.5.2 Master 节点失效 | 第20页 |
2.5.3 失效检测的流程和机理 | 第20-22页 |
2.6 MapReduce 的节点调度方式 | 第22-23页 |
2.7 其他容错机制 | 第23-24页 |
2.7.1 中间值容错 | 第23-24页 |
2.7.2 JobTracker 容错 | 第24页 |
2.7.3 任务推测执行 | 第24页 |
2.8 MapReduce 的容错性能不足 | 第24页 |
2.9 本章小结 | 第24-26页 |
第3章 MapReduce 下容错机制的优化设计 | 第26-36页 |
3.1 MapReduce 自适应检测时间设计 | 第28-30页 |
3.1.1 设计动机 | 第28页 |
3.1.2 设计原理 | 第28页 |
3.1.3 作业任务时间估计设计方法 | 第28-30页 |
3.2 MapReduce 下信誉机制的研究与设计 | 第30-33页 |
3.2.1 设计动机 | 第30-31页 |
3.2.2 设计原理 | 第31页 |
3.2.3 MapReduce 下信誉机制的设计方法 | 第31-33页 |
3.3 中间值的安全性的设计 | 第33-34页 |
3.3.1 设计原理 | 第33-34页 |
3.3.2 设计方法 | 第34页 |
3.4 本章小结 | 第34-36页 |
第4章 系统实现 | 第36-47页 |
4.1 MapReduce 自适应时间检测实现 | 第36-39页 |
4.1.1 执行过程 | 第36-38页 |
4.1.2 类依赖关系 | 第38-39页 |
4.2 MapReduce 信誉机制实现 | 第39-43页 |
4.2.1 执行过程 | 第39-41页 |
4.2.2 数据结构 | 第41-42页 |
4.2.3 程序执行流程 | 第42-43页 |
4.3 中间值的安全性实现 | 第43-46页 |
4.3.1 中间数据的处理过程 | 第43-44页 |
4.3.2 数据结构与算法 | 第44-46页 |
4.4 本章小结 | 第46-47页 |
第5章 实验结果和分析 | 第47-59页 |
5.1 实验环境和集群架构 | 第47-49页 |
5.1.1 Hadoop 集群架构 | 第47-48页 |
5.1.2 实验环境和配置 | 第48-49页 |
5.1.3 系统概况 | 第49页 |
5.2 测试方案和测试过程 | 第49-52页 |
5.2.1 实验配置和进行过程 | 第50-51页 |
5.2.2 信誉机制时间的参数和配置 | 第51-52页 |
5.2.3 作业的选取 | 第52页 |
5.3 实验结果和数据分析 | 第52-58页 |
5.3.1 集群系统中没有节点失效 | 第52-54页 |
5.3.2 系统中有一个节点失效 | 第54-56页 |
5.3.3 系统的整体测试 | 第56-57页 |
5.3.4 对比分析 | 第57-58页 |
5.4 本章小结 | 第58-59页 |
结论 | 第59-60页 |
参考文献 | 第60-64页 |
致谢 | 第64页 |