| 摘要 | 第5-6页 |
| ABSTRACT | 第6页 |
| 第1章 绪论 | 第12-19页 |
| 1.1 研究背景与意义 | 第12-13页 |
| 1.2 国内外研究现状 | 第13-17页 |
| 1.2.1 HDFS研究现状 | 第13-15页 |
| 1.2.2 HDFS小文件问题研究现状 | 第15-17页 |
| 1.3 研究内容与主要工作 | 第17-18页 |
| 1.4 本文组织结构 | 第18-19页 |
| 第2章 相关研究 | 第19-30页 |
| 2.1 分布式集群Hadoop | 第19页 |
| 2.2 分布式文件系统HDFS | 第19-25页 |
| 2.2.1 HDFS综述 | 第19-20页 |
| 2.2.2 HDFS架构 | 第20-21页 |
| 2.2.3 HDFS的重要数据结构 | 第21-22页 |
| 2.2.4 HDFS节点间通信协议 | 第22-23页 |
| 2.2.5 HDFS读写流程 | 第23-25页 |
| 2.3 MapReduce架构 | 第25-27页 |
| 2.4 Yarn架构 | 第27页 |
| 2.5 HDFS Federation架构 | 第27-29页 |
| 2.6 hadoop Archive | 第29页 |
| 2.7 小结 | 第29-30页 |
| 第3章 基于HAR的小文件存储改进 | 第30-46页 |
| 3.1 研究动机 | 第30页 |
| 3.2 HDFS文件存储分析 | 第30-33页 |
| 3.2.1 数据节点上的数据存储 | 第30-31页 |
| 3.2.2 名字节点上的元数据存储 | 第31-32页 |
| 3.2.3 Namenode元数据内存消耗分析 | 第32-33页 |
| 3.2.4 访问效率分析 | 第33页 |
| 3.3 Hadoop Archives文件系统和源码分析 | 第33-37页 |
| 3.3.1 Hadoop Archives执行命令 | 第35-36页 |
| 3.3.2 Hadoop Archive执行流程分析 | 第36-37页 |
| 3.3.3 Archive读文件分析 | 第37页 |
| 3.4 Murmurhash函数 | 第37页 |
| 3.5 生成单层索引结构归档文件 | 第37-40页 |
| 3.6 实验环境搭建 | 第40-42页 |
| 3.6.1 集群搭建 | 第40页 |
| 3.6.2 集群参数配置 | 第40-42页 |
| 3.6.3 ssh免密码登陆 | 第42页 |
| 3.7 实验结果分析 | 第42-45页 |
| 3.8 小结 | 第45-46页 |
| 第4章 基于一致性哈希算法的小文件存储改进 | 第46-57页 |
| 4.1 研究动机 | 第46页 |
| 4.2 一致性哈希算法介绍 | 第46-51页 |
| 4.2.1 一致性哈希算法 | 第46-49页 |
| 4.2.2 加入虚拟节点的一致性哈希算法 | 第49-51页 |
| 4.3 基于一致性哈希算法的HDFS Federation的小文件存储改进 | 第51-54页 |
| 4.4 实验分析 | 第54-56页 |
| 4.4.1 均衡性分析 | 第54-55页 |
| 4.4.2 适应性分析 | 第55-56页 |
| 4.5 小结 | 第56-57页 |
| 结论 | 第57-59页 |
| 参考文献 | 第59-63页 |
| 附录A 攻读学位期间发表的学术论文与获得的成果 | 第63-64页 |
| 附录B 攻读学位期间所参与的项目目录 | 第64-65页 |
| 致谢 | 第65页 |
