摘要 | 第3-4页 |
ABSTRACT | 第4-5页 |
第1章 绪论 | 第8-19页 |
1.1 课题背景与研究意义 | 第8-9页 |
1.2 国内外研究现状 | 第9-10页 |
1.3 分布式文件系统概述 | 第10-13页 |
1.3.1 GFS | 第10-11页 |
1.3.2 Lustre | 第11-12页 |
1.3.3 HDFS | 第12-13页 |
1.3.4 其他分布式文件系统 | 第13页 |
1.4 HDFS的可靠性机制 | 第13-15页 |
1.5 课题来源和本文主要研究内容 | 第15-18页 |
1.5.1 课题来源 | 第15页 |
1.5.2 本文主要研究内容 | 第15-18页 |
1.6 论文组织结构安排 | 第18-19页 |
第2章 HDFS元数据管理研究 | 第19-26页 |
2.1 HDFS元数据节点故障 | 第19-21页 |
2.1.1 单节点故障后的可用性方案 | 第19-20页 |
2.1.2 双节点故障后的解决方案 | 第20-21页 |
2.2 元数据一致性方案 | 第21-23页 |
2.2.1 一致性检查 | 第21-22页 |
2.2.2 Zookeeper提供一致性模型 | 第22-23页 |
2.2.3 集中式缓存策略保证一致性 | 第23页 |
2.3 HDFS当前方案的可用性分析 | 第23-25页 |
2.4 本章小结 | 第25-26页 |
第3章 元数据管理的高可用性优化技术 | 第26-46页 |
3.1 元数据管理的相关技术 | 第26-29页 |
3.1.1 共享数据存储机制 | 第26-27页 |
3.1.2 节点故障检测与切换 | 第27-28页 |
3.1.3 数据块映射表的实时同步 | 第28-29页 |
3.2 优化后的HDFS高可用性方案设计 | 第29-43页 |
3.2.1 优化方案设计思想 | 第29-32页 |
3.2.2 基于QJM共享存储的优化技术 | 第32-36页 |
3.2.3 基于ZKFC的优化技术 | 第36-41页 |
3.2.4 数据块映射表动态维护的优化技术 | 第41-43页 |
3.3 优化技术的高可用性定量分析 | 第43-45页 |
3.4 本章小结 | 第45-46页 |
第4章 元数据缓存策略的高可用性设计 | 第46-53页 |
4.1 主流的缓存替换策略 | 第46-47页 |
4.1.1 基于访问时间的LRU算法 | 第46-47页 |
4.1.2 基于访问次数的缓存替换算法 | 第47页 |
4.1.3 基于数据大小的缓存替换算法 | 第47页 |
4.1.4 基于文件保存价值的缓存替换算法 | 第47页 |
4.2 TIMING-LRFU缓存替换策略 | 第47-51页 |
4.2.1 Timing-LRFU缓存替换策略设计 | 第48-49页 |
4.2.2 数据流行度预测模型 | 第49-51页 |
4.2.3 置换因子的参数设定 | 第51页 |
4.3 新策略与其他替换策略的优缺点对比 | 第51-52页 |
4.4 本章小结 | 第52-53页 |
第5章 实验环境及测试 | 第53-62页 |
5.1 实验软硬件环境 | 第53页 |
5.2 元数据管理的优化技术测试 | 第53-59页 |
5.2.1 节点故障后优化技术功能测试 | 第54-57页 |
5.2.2 节点故障后优化技术性能测试 | 第57-59页 |
5.3 缓存替换策略的性能测试 | 第59-60页 |
5.3.1 SimpleScalar仿真环境 | 第59页 |
5.3.2 测试结果分析 | 第59-60页 |
5.4 后续工作展望 | 第60-61页 |
5.5 本章小结 | 第61-62页 |
结论 | 第62-64页 |
参考文献 | 第64-70页 |
攻读硕士学位期间发表的论文及其它成果 | 第70-72页 |
致谢 | 第72页 |