基于Hadoop的海量小文件合并的研究与设计
| 摘要 | 第5-6页 |
| ABSTRACT | 第6页 |
| 1 绪论 | 第9-14页 |
| 1.1 研究背景 | 第9-10页 |
| 1.1.1 大数据时代 | 第9页 |
| 1.1.2 Hadoop—大数据处理框架 | 第9-10页 |
| 1.1.3 HDFS存储海量小文件的问题 | 第10页 |
| 1.2 国内外研究现状 | 第10-12页 |
| 1.3 主要工作与创新点 | 第12页 |
| 1.4 论文的组织结构 | 第12-14页 |
| 2 分布式文件系统HDFS与存储海量小文件的研究 | 第14-21页 |
| 2.1 分布式集群Hadoop | 第14页 |
| 2.2 分布式文件系统HDFS | 第14-16页 |
| 2.2.1 数据块 | 第14-15页 |
| 2.2.2 namenode | 第15页 |
| 2.2.3 datanode | 第15-16页 |
| 2.2.4 HDFS的容错机制 | 第16页 |
| 2.3 HDFS存储海量小文件的研究 | 第16-20页 |
| 2.3.1 小文件的定义 | 第16-17页 |
| 2.3.2 存储海量小文件的问题 | 第17-18页 |
| 2.3.3 处理小文件问题的工具 | 第18-20页 |
| 2.4 本章小结 | 第20-21页 |
| 3 系统SHDFS的关联文件合并模块的细化设计 | 第21-33页 |
| 3.1 SHDFS系统设计的目标 | 第21页 |
| 3.2 系统整体架构 | 第21-22页 |
| 3.3 关联文件挖掘模型 | 第22-26页 |
| 3.3.1 基于用户的最近邻推荐思想 | 第22-24页 |
| 3.3.2 数据预处理技术—K最近邻算法 | 第24-25页 |
| 3.3.3 模型关键算法实现 | 第25-26页 |
| 3.4 关联文件合并操作 | 第26-28页 |
| 3.5 实验与分析 | 第28-32页 |
| 3.5.1 实验环境 | 第28页 |
| 3.5.2 实验结果 | 第28-32页 |
| 3.6 本章小结 | 第32-33页 |
| 4 系统SHDFS的热点文件缓存模块的细化设计 | 第33-45页 |
| 4.1 热点文件缓存 | 第33-34页 |
| 4.2 热点文件预测模型 | 第34-37页 |
| 4.2.1 数据聚类特性 | 第34-36页 |
| 4.2.2 对数线性算法 | 第36-37页 |
| 4.3 HBase技术 | 第37页 |
| 4.4 缓存模块算法实现 | 第37-39页 |
| 4.4.1 筛选活跃用户 | 第38页 |
| 4.4.2 预测热点文件 | 第38页 |
| 4.4.3 HBase缓存热点文件 | 第38-39页 |
| 4.5 缓存模块中的文件读写流程 | 第39-41页 |
| 4.5.1 文件的读取流程 | 第39-40页 |
| 4.5.2 文件的写入流程 | 第40-41页 |
| 4.6 实验与分析 | 第41-44页 |
| 4.6.1 实验环境 | 第41-42页 |
| 4.6.2 实验结果 | 第42-44页 |
| 4.7 本章小结 | 第44-45页 |
| 5 总结与展望 | 第45-47页 |
| 5.1 总结 | 第45页 |
| 5.2 展望 | 第45-47页 |
| 参考文献 | 第47-51页 |
| 图和附表清单 | 第51-52页 |
| 致谢 | 第52-53页 |
| 攻读硕士学位期间取得的研究成果 | 第53-54页 |
| 学位论文数据集表 | 第54-55页 |
