摘要 | 第5-6页 |
Abstract | 第6页 |
第1章 绪论 | 第12-18页 |
1.1 课题背景 | 第12-15页 |
1.1.1 虚拟化与多租户 | 第12-13页 |
1.1.2 Hadoop历史 | 第13-14页 |
1.1.3 HDFS的特性 | 第14页 |
1.1.4 HDFS的问题 | 第14-15页 |
1.2 研究内容及意义 | 第15-16页 |
1.3 本文组织结构 | 第16-17页 |
1.4 本章小结 | 第17-18页 |
第2章 相关技术 | 第18-32页 |
2.1 分布式存储系统 | 第18页 |
2.2 HDFS主要概念 | 第18-23页 |
2.2.1 文件分块 | 第19-21页 |
2.2.2 元数据存储 | 第21-22页 |
2.2.3 文件读取 | 第22-23页 |
2.2.4 文件写入 | 第23页 |
2.3 名称节点的内存消耗 | 第23-26页 |
2.4 现有解决方案 | 第26-30页 |
2.4.1 HDFS联邦(Federation) | 第26-27页 |
2.4.2 SequenceFile | 第27-29页 |
2.4.3 HAR(Hadoop Archive) | 第29页 |
2.4.4 负载分析与缓存 | 第29-30页 |
2.4.5 分布式多级索引 | 第30页 |
2.4.6 一致性哈希存储 | 第30页 |
2.5 本章小结 | 第30-32页 |
第3章 HDFS小文件存储设计 | 第32-59页 |
3.1 设计目标描述 | 第32-34页 |
3.1.1 名称节点的内存占用 | 第32页 |
3.1.2 文件写入 | 第32-33页 |
3.1.3 文件读取 | 第33页 |
3.1.4 系统性能比 | 第33页 |
3.1.5 最大存储文件数 | 第33-34页 |
3.1.6 元数据加载时间 | 第34页 |
3.2 设计思想 | 第34-35页 |
3.3 多级分离持久化缓存设计 | 第35-36页 |
3.4 应用缓存子系统(ACS) | 第36-50页 |
3.4.1 缓存框架设计 | 第38-43页 |
3.4.2 目录树节点缓存(NTC) | 第43-48页 |
3.4.3 文件分块缓存(FBC) | 第48-49页 |
3.4.4 分块副本缓存(BRC) | 第49-50页 |
3.5 块缓存持久化子系统(BCPS) | 第50-54页 |
3.5.1 元数据结构与索引 | 第51-53页 |
3.5.2 数据同步与可靠性 | 第53-54页 |
3.6 半匿名文件直接访问设计 | 第54-58页 |
3.6.1 文件写入 | 第55-56页 |
3.6.2 文件访问 | 第56-58页 |
3.6.3 适用场景 | 第58页 |
3.7 本章小结 | 第58-59页 |
第4章 存储系统的多租户设计 | 第59-68页 |
4.1 设计思想 | 第59-60页 |
4.2 总体架构 | 第60-61页 |
4.3 指标与限制 | 第61-63页 |
4.3.1 名称节点指标 | 第61-62页 |
4.3.2 数据节点指标 | 第62-63页 |
4.3.3 限制 | 第63页 |
4.4 多租户主要设计 | 第63-67页 |
4.4.1 名称隔离 | 第63-64页 |
4.4.2 指标统计 | 第64-66页 |
4.4.3 限制调度 | 第66-67页 |
4.5 本章小结 | 第67-68页 |
第5章 实验与分析 | 第68-80页 |
5.1 实验环境 | 第68-70页 |
5.1.1 软件及版本 | 第68页 |
5.1.2 硬件环境 | 第68-69页 |
5.1.3 节点部署 | 第69-70页 |
5.2 实验设计 | 第70-71页 |
5.3 实验结果 | 第71-79页 |
5.3.1 文件写入 | 第71-73页 |
5.3.2 文件读取 | 第73-75页 |
5.3.3 元数据内存 | 第75-77页 |
5.3.4 租户限制 | 第77-79页 |
5.4 本章小结 | 第79-80页 |
第6章 总结与展望 | 第80-82页 |
6.1 工作总结 | 第80页 |
6.2 未来展望 | 第80-82页 |
参考文献 | 第82-85页 |
致谢 | 第85页 |