摘要 | 第4-6页 |
Abstract | 第6-7页 |
第1章 绪论 | 第10-16页 |
1.1 选题背景和研究意义 | 第10-11页 |
1.2 国内外研究现状 | 第11-13页 |
1.2.1 小文件存储优化的研究现状 | 第11-12页 |
1.2.2 小文件访问优化的研究现状 | 第12-13页 |
1.3 本文研究内容及主要贡献 | 第13页 |
1.4 本文的组织结构 | 第13-16页 |
第2章 相关技术研究 | 第16-28页 |
2.1 Hadoop分布式文件系统 | 第16-20页 |
2.1.1 HDFS系统架构 | 第16-17页 |
2.1.2 HDFS的文件读写机制 | 第17-19页 |
2.1.3 HDFS的小文件问题 | 第19-20页 |
2.2 小文件存储优化的关键技术研究 | 第20-24页 |
2.2.1 小文件存储的开销模型 | 第20页 |
2.2.2 Hadoop的解决方案 | 第20-21页 |
2.2.3 基于相关性的合并 | 第21-23页 |
2.2.4 基于文件分布的合并 | 第23-24页 |
2.3 小文件访问优化的关键技术研究 | 第24-27页 |
2.3.1 小文件访问的开销模型 | 第24-25页 |
2.3.2 缓存与缓存替换技术 | 第25-27页 |
2.4 本章小结 | 第27-28页 |
第3章 基于文件相关度和文件分布的小文件合并存储策略 | 第28-36页 |
3.1 基本思想 | 第28-29页 |
3.2 文件相关度 | 第29-30页 |
3.3 算法设计 | 第30-32页 |
3.4 算法实现 | 第32-34页 |
3.5 本章小结 | 第34-36页 |
第4章 基于文件驻留价值的小文件分层缓存 | 第36-46页 |
4.1 基本思想 | 第36-38页 |
4.2 缓存文件的价值判断 | 第38-41页 |
4.2.1 缓存价值的影响因素 | 第38-40页 |
4.2.2 文件的价值判断函数 | 第40-41页 |
4.3 小文件的分层缓存与缓存替换 | 第41-44页 |
4.3.1 分层依据 | 第41-43页 |
4.3.2 缓存的更新过程 | 第43-44页 |
4.4 本章小结 | 第44-46页 |
第5章 系统架构与实验分析 | 第46-56页 |
5.1 系统架构 | 第46-47页 |
5.2 实验环境 | 第47-48页 |
5.2.1 硬件环境 | 第47-48页 |
5.2.2 软件环境 | 第48页 |
5.3 小文件存储优化效果 | 第48-51页 |
5.3.1 文件存储的时间开销对比 | 第49页 |
5.3.2 Namenode内存开销对比 | 第49-50页 |
5.3.3 文件的空间局部性对比 | 第50-51页 |
5.4 小文件访问优化效果 | 第51-53页 |
5.4.1 缓存命中率对比 | 第51-53页 |
5.4.2 文件访问效率对比 | 第53页 |
5.5 本章小结 | 第53-56页 |
结论 | 第56-58页 |
参考文献 | 第58-62页 |
攻读硕士学位期间获得的科研成果 | 第62-64页 |
致谢 | 第64页 |