摘要 | 第3-4页 |
Abstract | 第4-5页 |
1 绪论 | 第8-14页 |
1.1 论文研究背景 | 第8页 |
1.2 本课题国内外研究现状 | 第8-11页 |
1.3 论文研究内容及主要工作 | 第11-12页 |
1.4 论文组织结构 | 第12-14页 |
2 Hadoop 平台简介 | 第14-26页 |
2.1 分布式存储系统 HDFS | 第14-21页 |
2.1.1 HDFS 的监控管理工具 | 第14-15页 |
2.1.2 HDFS 的体系结构 | 第15-16页 |
2.1.3 HDFS 的特点及不足 | 第16-17页 |
2.1.4 HDFS 常用 JAVA API 简介 | 第17-18页 |
2.1.5 HDFS 中的读写数据流 | 第18-21页 |
2.2 MapReduce 编程模型简介 | 第21-23页 |
2.2.1 MapReduce 编程思想及其处理过程 | 第21-22页 |
2.2.2 MapReduce 任务执行流程 | 第22-23页 |
2.3 下一代 MapReduce:YARN | 第23-25页 |
2.3.1 MapReduce V2 作业执行流程 | 第23-24页 |
2.3.2 MapReduce V2 系统可用性保证 | 第24-25页 |
2.3.3 MapReduce V2 的优点 | 第25页 |
2.4 本章小结 | 第25-26页 |
3 小文件量化方法 | 第26-29页 |
3.1 Hadoop 平台下小文件访问时间量化 | 第26-27页 |
3.2 Hadoop 平台下随机文件获取算法实现 | 第27页 |
3.3 曲线拟合相关知识介绍 | 第27-28页 |
3.4 本章小结 | 第28-29页 |
4 海量小文件处理算法 | 第29-37页 |
4.1 文件合并算法 | 第29-30页 |
4.2 WordCount 源代码详解 | 第30-34页 |
4.2.1 Hadoop 中数据类型介绍 | 第30-31页 |
4.2.2 Map 过程分析 | 第31页 |
4.2.3 Reduce 过程分析 | 第31-32页 |
4.2.4 主函数分析 | 第32-34页 |
4.3 基于 CIFSF 的海量小文件处理算法 | 第34-36页 |
4.4 本章小结 | 第36-37页 |
5 实验与分析 | 第37-46页 |
5.1 Hadoop 平台搭建过程 | 第37-40页 |
5.2 Hadoop 集群下 Eclipse 开发环境配置 | 第40-41页 |
5.3 实验环境 | 第41页 |
5.4 实验数据集 | 第41-42页 |
5.5 实验方法 | 第42-45页 |
5.6 本章小结 | 第45-46页 |
结论 | 第46-47页 |
参考文献 | 第47-50页 |
在学研究成果 | 第50-51页 |
致谢 | 第51页 |