致谢 | 第1-5页 |
摘要 | 第5-6页 |
Abstract | 第6-11页 |
1 绪论 | 第11-17页 |
·云计算研究现状 | 第11-13页 |
·MapReduce 产生背景及意义 | 第13-15页 |
·本文主要研究内容 | 第15页 |
·论文结构 | 第15-16页 |
·本章小结 | 第16-17页 |
2 并行程序设计相关理论 | 第17-29页 |
·传统的并行程序开发环境 | 第17-22页 |
·消息传递机制MPI | 第17-20页 |
·OpenMP 并行编程模型 | 第20-21页 |
·混合编程 | 第21-22页 |
·云计算技术 | 第22-25页 |
·Google 云计算原理 | 第22-24页 |
·Hadoop 云计算系统 | 第24-25页 |
·MapReduce 与 MPI 的联系 | 第25-28页 |
·小结 | 第28-29页 |
3 MapReduce 并行编程模式研究 | 第29-45页 |
·MapReduce 并行编程思想 | 第29-34页 |
·编程模型 | 第29-30页 |
·实现机制 | 第30-34页 |
·MapReduce 的工作原理 | 第34-40页 |
·MapReduce 作业的提交 | 第35页 |
·MapReduce 作业的初始化 | 第35-36页 |
·MapReduce 任务的分配 | 第36页 |
·任务的执行 | 第36-38页 |
·进度和状态的更新 | 第38-39页 |
·作业的完成 | 第39-40页 |
·Map 和 Reduce 作业 | 第40-41页 |
·Map 作业 | 第40-41页 |
·Reduce 作业 | 第41页 |
·容错机制 | 第41-42页 |
·Master 失效 | 第41页 |
·Worker 失效 | 第41-42页 |
·MapReduce 作业的调度 | 第42-44页 |
·Hadoop 集群中MapReduce 默认的调度算法 | 第43页 |
·公平调度算法(Fair Scheduling) | 第43-44页 |
·本章小结 | 第44-45页 |
4 异构环境下数据分配机制 HDDM 的设计 | 第45-55页 |
·Hadoop 分布式文件系统 HDFS 分析 | 第45-48页 |
·HDFS 体系结构 | 第45-46页 |
·文件块的存储 | 第46-48页 |
·异构环境下数据存储研究 | 第48-49页 |
·在异构集群中数据的存储 | 第48页 |
·已有解决数据分配的方法 | 第48-49页 |
·数据分配机制 HDDM 的设计 | 第49-51页 |
·数据分配机制设计思想 | 第49页 |
·实现初始数据布局 | 第49-50页 |
·数据再分配的实施 | 第50-51页 |
·数据分配机制 HDDM 实现细节 | 第51-53页 |
·测量异质性 | 第51-52页 |
·多个应用之间共享文件 | 第52页 |
·实现数据的分配 | 第52-53页 |
·本章小结 | 第53-55页 |
5 测试结果及分析 | 第55-65页 |
·搭建异构 Hadoop 集群实验环境 | 第55-59页 |
·异构Hadoop 集群配置环境 | 第55页 |
·SSH 配置 | 第55-56页 |
·JDK 的安装和配置 | 第56-57页 |
·Hadoop 的安装和配置 | 第57-59页 |
·实验结果与分析 | 第59-63页 |
·节点计算比率的测试 | 第59-60页 |
·输入文件大小无关性测试 | 第60-61页 |
·对 MapReduce 数据分配机制的测试 | 第61-63页 |
·本章小结 | 第63-65页 |
6 总结与展望 | 第65-67页 |
·论文总结 | 第65页 |
·工作展望 | 第65-67页 |
参考文献 | 第67-70页 |
作者简历 | 第70-71页 |
学位论文数据集 | 第71页 |