首页--工业技术论文--自动化技术、计算机技术论文--计算技术、计算机技术论文--计算机软件论文--程序设计、软件工程论文--程序设计论文

提高任务并行度以优化MapReduce集群资源的利用

摘要第3-4页
ABSTRACT第4页
第一章 绪论第9-14页
    1.1 研究背景及意义第9-11页
    1.2 国内外研究现状第11-12页
    1.3 主要研究内容第12-13页
    1.4 论文结构第13-14页
第二章 本文相关技术介绍第14-31页
    2.1 MapReduce编程模型第14页
    2.2 Hadoop分布式文件系统第14-20页
        2.2.1 数据块第15-16页
        2.2.2 名字节点和数据节点第16-17页
        2.2.3 HDFS的数据读写操作第17-20页
    2.3 Hadoop MapReduce介绍第20-25页
        2.3.1 Hadoop MapReduce作业的生命周期第22-23页
        2.3.2 Map和Reduce任务第23-25页
    2.4 Hadoop RPC框架介绍第25-30页
        2.4.1 Hadoop RPC基本框架第26-29页
        2.4.2 基于RPC的MapReduce通信协议介绍第29-30页
    2.5 本章小结第30-31页
第三章 细粒度任务并行策略的设计第31-37页
    3.1 概要第31页
    3.2 子数据块的设计第31-33页
    3.3 MapReduce任务的设计第33-36页
        3.3.1 概要第33-34页
        3.3.2 Map子任务的设计第34-35页
        3.3.3 Reduce子任务的设计第35页
        3.3.4 备份任务的设计第35-36页
    3.4 Pre-shuffle的设计第36页
    3.5 本章小结第36-37页
第四章 细粒度任务并行策略的实现第37-61页
    4.1 子数据块的实现第37-46页
        4.1.1 概述第37-38页
        4.1.2 流式接口的实现第38-41页
        4.1.3 子数据块的读操作实现第41-43页
        4.1.4 子数据块的写操作实现第43-46页
    4.2 子任务的实现第46-55页
        4.2.1 Map子任务的实现第47-53页
        4.2.2 Reduce子任务的实现第53-55页
    4.3 Pre-shuffle的实现第55-60页
    4.4 本章小结第60-61页
第五章 细粒度任务并行策略的实验评估第61-71页
    5.1 实验环境的搭建第61-62页
    5.2 扩展性的实验评估第62-64页
    5.3 在不同CPU个数下的性能实验评估第64-66页
    5.4 资源利用率的实验评估第66-70页
    5.5 Pre-shuffle的实验评估第70页
    5.6 本章小结第70-71页
参考文献第71-75页
致谢第75-76页
攻读硕士学位期间已发表或录用的论文第76-78页

论文共78页,点击 下载论文
上一篇:可修改与编辑的草图识别系统
下一篇:基于分层策略的协同过滤算法研究