Hadoop小文件处理技术的研究和实现
| 摘要 | 第4-5页 |
| ABSTRACT | 第5页 |
| 第一章 绪论 | 第8-14页 |
| 1.1 云计算和Hadoop | 第8-9页 |
| 1.2 HDFS和小文件 | 第9-10页 |
| 1.3 研究现状 | 第10-12页 |
| 1.4 论文的研究内容与意义 | 第12页 |
| 1.5 论文结构 | 第12-14页 |
| 第二章 Hadoop平台 | 第14-30页 |
| 2.1 Hadoop简介 | 第14-15页 |
| 2.2 MapReduce分布式计算 | 第15-18页 |
| 2.2.1 程序模型 | 第15页 |
| 2.2.2 数据处理 | 第15-17页 |
| 2.2.3 数据本地化 | 第17页 |
| 2.2.4 容错 | 第17-18页 |
| 2.3 HDFS分布式文件系统 | 第18-23页 |
| 2.3.1 名字节点 | 第18-20页 |
| 2.3.2 数据节点 | 第20-21页 |
| 2.3.3 HDFS读文件 | 第21-22页 |
| 2.3.4 HDFS写文件 | 第22-23页 |
| 2.4 Hadoop小文件问题 | 第23-27页 |
| 2.5 Hadoop文件归档 | 第27-28页 |
| 2.6 本章小结 | 第28-30页 |
| 第三章 文件合并与分组策略 | 第30-42页 |
| 3.1 小文件分类 | 第30-31页 |
| 3.2 结构相关小文件的合并方案 | 第31-36页 |
| 3.2.1 本地索引文件 | 第31-32页 |
| 3.2.2 文件合并策略 | 第32-34页 |
| 3.2.3 三级预取与缓存 | 第34页 |
| 3.2.4 理论分析 | 第34-36页 |
| 3.3 逻辑相关小文件的分组方案 | 第36-40页 |
| 3.3.1 全局索引文件 | 第37页 |
| 3.3.2 文件分组策略 | 第37-38页 |
| 3.3.3 三级预取和缓存 | 第38-39页 |
| 3.3.4 理论分析 | 第39-40页 |
| 3.4 分析比较 | 第40-41页 |
| 3.5 本章小结 | 第41-42页 |
| 第四章 实验结果与分析 | 第42-53页 |
| 4.1 实验环境及数据 | 第42-43页 |
| 4.2 实验方法 | 第43-44页 |
| 4.3 实验用到JAVA类 | 第44-45页 |
| 4.4 结构相关小文件实验 | 第45-47页 |
| 4.4.1 储存效率分析 | 第45页 |
| 4.4.2 访问效率分析 | 第45-47页 |
| 4.5 逻辑相关小文件实验 | 第47-52页 |
| 4.5.1 储存效率分析 | 第47-48页 |
| 4.5.2 访问效率分析 | 第48-52页 |
| 4.6 本章小结 | 第52-53页 |
| 第五章 总结与展望 | 第53-55页 |
| 5.1 总结 | 第53-54页 |
| 5.2 展望 | 第54-55页 |
| 参考文献 | 第55-61页 |
| 致谢 | 第61-62页 |
| 攻读硕士期间的研究成果 | 第62页 |
