首页--工业技术论文--自动化技术、计算机技术论文--计算技术、计算机技术论文--计算机软件论文--程序设计、软件工程论文--程序设计论文

大规模网络数据环境下的Hadoop集群优化研究

摘要第5-6页
ABSTRACT第6-7页
第一章 绪论第11-14页
    1.1 课题研究背景第11-12页
    1.2 国内外研究现状第12-13页
    1.3 论文结构第13-14页
第二章 分布式文件系统的数据分析与管理第14-36页
    2.1 HDFS介绍第14-18页
        2.1.1 HDFS的设计目标第14-15页
        2.1.2 HDFS的基本概念第15-18页
    2.2 HDFS集群信息采集系统第18-24页
        2.2.1 数据的拓扑信息采集第18-19页
        2.2.2 文件详情信息的采集第19-20页
        2.2.3 文件使用信息的采集第20-21页
        2.2.4 集群信息采集系统第21-24页
    2.3 HDFS的文件与数据块关联分析第24-30页
        2.3.1 文件整体分析第24-28页
        2.3.2 文件详细分析第28-29页
        2.3.3 文件使用分析第29-30页
    2.4 HDFS的文件检索与管理系统第30-35页
        2.4.1 系统设计第30页
        2.4.2 文件检索模块第30-33页
        2.4.3 文件概览模块第33-35页
    2.5 本章小结第35-36页
第三章 大规模网络数据环境下分布式文件系统的小文件研究第36-54页
    3.1 HDFS的内存结构及读取文件机制第36-40页
        3.1.1 HDFS的内存结构第36-38页
        3.1.2 HDFS的读文件机制第38-39页
        3.1.3 HDFS的写文件机制第39-40页
    3.2 集群小文件分析第40-42页
        3.2.1 小文件分布分析第40页
        3.2.2 文件夹分布分析第40-41页
        3.2.3 小文件详细分析第41-42页
    3.3 HDFS小文件与系统性能关系研究第42-45页
        3.3.1 小文件过多对集群影响的理论分析第42-43页
        3.3.2 课题实验环境配置第43页
        3.3.3 作业运行影响研究第43-44页
        3.3.4 文件上传影响研究第44-45页
        3.3.5 小文件对集群影响研究总结第45页
    3.4 HDFS碎片整理系统第45-53页
        3.4.1 合并小文件的方式概述第45-47页
        3.4.2 系统设计与实现第47-53页
    3.5 本章小结第53-54页
第四章 大规模网络数据环境下分布式文件系统的数据均衡研究第54-66页
    4.1 HDFS的数据均衡策略第54-57页
        4.1.1 HDFS的副本放置策略第54-55页
        4.1.2 HDFS的数据均衡策略第55-57页
    4.2 分布式文件系统数据分布研究第57-59页
        4.2.1 文件块分布分析第57-58页
        4.2.2 文件不均衡度分布分析第58页
        4.2.3 热点文件分布分析第58-59页
    4.3 HDFS数据分布不均衡对集群影响的研究第59-63页
        4.3.1 MapReduce流程介绍第59-61页
        4.3.2 数据不均衡对集群影响的理论分析第61-62页
        4.3.3 HDFS数据分布不均衡对集群影响的测试第62-63页
    4.4 HDFS的数据均衡策略改进第63-65页
        4.4.1 基于多衡量指标的数据均衡策略第63-64页
        4.4.2 基于多衡量指标的数据均衡策略的优缺点第64页
        4.4.3 基于多衡量指标的数据均衡策略的性能验证第64-65页
    4.5 本章小结第65-66页
第五章 HDFS权限管理系统第66-75页
    5.1 HDFS的安全机制第66页
    5.2 通用的权限管理系统第66-70页
        5.2.1 安全权限相关知识第66-69页
        5.2.2 权限管理系统实现第69-70页
    5.3 命令行端的HDFS权限管理系统第70-72页
    5.4 Web端的HDFS权限管理系统第72-74页
    5.5 本章小结第74-75页
第六章 总结与展望第75-76页
参考文献第76-78页
致谢第78-79页
攻读学位期间发表的学术论文目录第79页

论文共79页,点击 下载论文
上一篇:民生东都公司OA新技术导入与绩效考核协同设计与实现
下一篇:基于Unity的三维实时显示系统