目录 | 第4-6页 |
CONTENTS | 第6-8页 |
摘要 | 第8-9页 |
ABSTRACT | 第9-10页 |
第一章 绪论 | 第12-17页 |
1.1 研究背景 | 第12-13页 |
1.2 国内外研究现状 | 第13-15页 |
1.3 论文的主要工作 | 第15页 |
1.4 论文的组织结构 | 第15-17页 |
第二章 基于MapReduce的迭代型分布式数据处理 | 第17-29页 |
2.1 分布式计算与MapReduce概述 | 第17-19页 |
2.2 MapReduce处理迭代型计算的方法 | 第19-22页 |
2.3 MapReduce迭代循环的实现 | 第22-23页 |
2.4 MapReduce任务调度 | 第23-25页 |
2.5 MapReduce数据处理流程 | 第25-26页 |
2.6 静态数据与动态数据 | 第26-28页 |
2.7 本章小结 | 第28-29页 |
第三章 myHadoop设计 | 第29-50页 |
3.1 Hadoop简介 | 第29-33页 |
3.1.1 Hadoop基本架构 | 第29-30页 |
3.1.2 Hadoop任务执行流程 | 第30-33页 |
3.2 myHadoop总体架构 | 第33-35页 |
3.3 循环控制模块的设计 | 第35-36页 |
3.4 新的任务并行策略及设计 | 第36-40页 |
3.4.1 数据流并行传输策略 | 第36-37页 |
3.4.2 Map任务分割策略 | 第37-38页 |
3.4.3 迭代终止条件检测并行策略 | 第38-39页 |
3.4.4 连续迭代的并行 | 第39-40页 |
3.5 任务调度模块的设计与优化 | 第40-43页 |
3.5.1 利用数据本地化优化任务调度 | 第41-42页 |
3.5.2 myHadoop任务调度算法设计 | 第42-43页 |
3.6 数据存储和缓存的设计 | 第43-47页 |
3.6.1 mapper的输入缓存 | 第44-45页 |
3.6.2 reducer的输入缓存 | 第45-46页 |
3.6.3 reducer的输出缓存 | 第46-47页 |
3.6.4 缓存的重构 | 第47页 |
3.7 编程模型 | 第47-49页 |
3.8 本章小结 | 第49-50页 |
第四章 实验测试与分析 | 第50-62页 |
4.1 实验测试环境 | 第50页 |
4.2 测试程序 | 第50-55页 |
4.3 实验结果与分析 | 第55-61页 |
4.3.1 指定迭代次数的测试 | 第55-58页 |
4.3.2 有迭代终止条件检测的测试 | 第58-59页 |
4.3.3 串联mapper个数设置的测试 | 第59-60页 |
4.3.4 非迭代型数据处理测试 | 第60-61页 |
4.4 本章小结 | 第61-62页 |
第五章 总结与展望 | 第62-64页 |
5.1 总结 | 第62-63页 |
5.2 展望 | 第63-64页 |
参考文献 | 第64-68页 |
致谢 | 第68-69页 |
硕士学位期间的科研成果和参加的项目 | 第69-70页 |
学位论文评两及答辩情况表 | 第70页 |