| 摘要 | 第4-6页 |
| ABSTRACT | 第6-7页 |
| 第一章 绪论 | 第11-17页 |
| 1.1 研究背景与意义 | 第11-13页 |
| 1.2 国内外研究现状 | 第13-15页 |
| 1.2.1 HDFS高可用性技术研究现状 | 第13-14页 |
| 1.2.2 HDFS小文件处理技术研究现状 | 第14-15页 |
| 1.3 研究内容 | 第15-16页 |
| 1.4 论文结构 | 第16-17页 |
| 第二章 HDFS关键技术分析 | 第17-27页 |
| 2.1 HDFS系统简介 | 第17-21页 |
| 2.1.1 HDFS系统架构 | 第17-18页 |
| 2.1.2 NameNode与DataNode | 第18-20页 |
| 2.1.3 元数据 | 第20-21页 |
| 2.2 HDFS核心机制 | 第21-24页 |
| 2.2.1 副本存放策略 | 第21页 |
| 2.2.2 文件读写流程 | 第21-23页 |
| 2.2.3 数据维护机制 | 第23-24页 |
| 2.3 HDFS存在缺陷 | 第24-25页 |
| 2.3.1 HDFS NameNode高可用性问题 | 第24页 |
| 2.3.2 HDFS小文件处理问题 | 第24-25页 |
| 2.4 本章小结 | 第25-27页 |
| 第三章 HDFS NameNode高可用性研究与优化 | 第27-45页 |
| 3.1 高可用性简介 | 第27-28页 |
| 3.2 NameNode高可用性问题分析 | 第28页 |
| 3.3 高可用性问题早期解决方案 | 第28-32页 |
| 3.3.1 元数据备份方案 | 第29页 |
| 3.3.2 Secondary NameNode方案 | 第29-30页 |
| 3.3.3 Backup Node方案 | 第30-31页 |
| 3.3.4 Facebook AvatarNode方案 | 第31-32页 |
| 3.4 Hadoop2.X版本HDFSHA方案分析 | 第32-35页 |
| 3.4.1 HDFS HA方案解决思路与架构 | 第32-34页 |
| 3.4.2 HDFS HA方案可用性分析 | 第34-35页 |
| 3.5 NameNode高可用性方案设计 | 第35-43页 |
| 3.5.1 方案系统架构 | 第35-36页 |
| 3.5.2 命名空间一致性的优化 | 第36-39页 |
| 3.5.3 NameNode的主备切换 | 第39-43页 |
| 3.6 优化方案高可用性的定量分析 | 第43-44页 |
| 3.7 本章小结 | 第44-45页 |
| 第四章 HDFS中小文件问题的研究与优化 | 第45-61页 |
| 4.1 HDFS中小文件处理存在问题 | 第45-46页 |
| 4.2 现有的优化方案 | 第46-47页 |
| 4.2.1 归档文件技术 | 第46页 |
| 4.2.2 序列文件技术与映射文件技术 | 第46-47页 |
| 4.3 小文件处理优化方案思路 | 第47页 |
| 4.4 小文件存储优化 | 第47-51页 |
| 4.4.1 基于体积的文件合并算法 | 第48-51页 |
| 4.4.2 小文件存储流程 | 第51页 |
| 4.5 小文件检索优化 | 第51-60页 |
| 4.5.1 映射文件 | 第51-52页 |
| 4.5.2 索引文件的建立 | 第52-53页 |
| 4.5.3 Trie树索引 | 第53页 |
| 4.5.4 局部索引 | 第53-57页 |
| 4.5.5 全局索引 | 第57-58页 |
| 4.5.6 小文件读取流程 | 第58-60页 |
| 4.6 本章小结 | 第60-61页 |
| 第五章 实验与分析 | 第61-73页 |
| 5.1 集群软硬件信息与环境配置 | 第61-65页 |
| 5.1.1 集群软硬件信息 | 第61-62页 |
| 5.1.2 集群配置 | 第62-65页 |
| 5.2 高可用性优化方案验证与分析 | 第65-67页 |
| 5.2.1 元数据一致性验证 | 第65页 |
| 5.2.2 故障切换时间测试 | 第65-67页 |
| 5.3 小文件读写策略验证和分析 | 第67-72页 |
| 5.3.1 测试数据来源 | 第68页 |
| 5.3.2 NameNode内存占用测试 | 第68-69页 |
| 5.3.3 小文件写入测试 | 第69-70页 |
| 5.3.4 小文件访问性能测试 | 第70-72页 |
| 5.3.5 数据分析 | 第72页 |
| 5.4 本章小结 | 第72-73页 |
| 第六章 总结与展望 | 第73-75页 |
| 6.1 总结 | 第73-74页 |
| 6.2 展望 | 第74-75页 |
| 参考文献 | 第75-79页 |
| 攻读硕士学位期间获得成果 | 第79-81页 |
| 致谢 | 第81-83页 |
