基于用户行为分析的HDFS小文件问题优化及相关I/O设计
摘要 | 第5-7页 |
Abstract | 第7-8页 |
第一章 绪论 | 第11-20页 |
1.1 研究背景与意义 | 第11-13页 |
1.2 国内外研究现状 | 第13-17页 |
1.3 主要工作和创新点 | 第17-18页 |
1.4 论文结构 | 第18-20页 |
第二章 Hadoop分布式文件系统与关联规则挖掘 | 第20-31页 |
2.1 Hadoop分布式文件系统 | 第20-25页 |
2.1.1 HDFS结构简介 | 第20页 |
2.1.2 namenode与datanode | 第20-22页 |
2.1.3 从HDFS中读文件 | 第22-24页 |
2.1.4 向HDFS中写文件 | 第24-25页 |
2.2 小文件问题 | 第25-26页 |
2.3 关联规则挖掘 | 第26-30页 |
2.3.1 关联规则挖掘的基本概念 | 第27-28页 |
2.3.2 FP-growth算法 | 第28-30页 |
2.4 本章小结 | 第30-31页 |
第三章 基于用户行为分析的小文件问题优化 | 第31-41页 |
3.1 用户行为分析 | 第31-32页 |
3.2 用户行为分析结点(BAU结点) | 第32-40页 |
3.2.1 收集和汇总用户文件访问历史 | 第33-35页 |
3.2.2 对用户文件访问历史进行关联规则挖掘 | 第35-36页 |
3.2.3 合并文件 | 第36-40页 |
3.3 HBAU工作流程 | 第40页 |
3.4 本章小结 | 第40-41页 |
第四章 加入BAU结点的HDFS(HBAU) | 第41-51页 |
4.1 从HBAU中读文件 | 第41-44页 |
4.2 修改或删除在合并文件中的文件 | 第44-45页 |
4.3 实验与分析 | 第45-50页 |
4.3.1 实验环境 | 第45-46页 |
4.3.2 测试方法 | 第46-48页 |
4.3.3 实验结果 | 第48-50页 |
4.4 本章小结 | 第50-51页 |
第五章 HBAU的I/O相关优化 | 第51-57页 |
5.1 用户缓存及其中的元数据同步 | 第51-52页 |
5.2 BAU结点写合并文件优化 | 第52-55页 |
5.2.1 停滞时间 | 第52-54页 |
5.2.2 停滞时间过长的危害与解决方法 | 第54-55页 |
5.3 实验与分析 | 第55-56页 |
5.4 本章小结 | 第56-57页 |
第六章 HBAU其他相关优化 | 第57-60页 |
6.1 BAU结点关联规则挖掘的并行化 | 第57-58页 |
6.2 推荐机制 | 第58页 |
6.3 实验与分析 | 第58-59页 |
6.4 本章小结 | 第59-60页 |
总结与展望 | 第60-61页 |
参考文献 | 第61-66页 |
攻读硕士学位期间取得的研究成果 | 第66-67页 |
致谢 | 第67-68页 |
Ⅳ-2答辩委员会对论文的评定意见 | 第68页 |