摘要 | 第5-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第12-25页 |
1.1 研究背景 | 第12页 |
1.2 国内外研究现状 | 第12-22页 |
1.2.1 海量小文件存储问题的研究现状 | 第13-17页 |
1.2.2 分布式数据路由策略的研究现状 | 第17-19页 |
1.2.3 分布式文件系统架构的研究现状 | 第19-22页 |
1.3 存在的问题 | 第22-23页 |
1.3.1 元数据的高速读写与容灾扩容的冲突问题 | 第22页 |
1.3.2 小文件与大文件的共存问题 | 第22页 |
1.3.3 存储节点的负载均衡问题 | 第22-23页 |
1.4 本文完成的工作 | 第23-24页 |
1.5 本文结构 | 第24-25页 |
第二章 适配海量小文件的分布式文件系统关键技术 | 第25-36页 |
2.1 分布式内存数据库与传统数据库结合的元数据管理方案 | 第25-27页 |
2.1.1 工作原理 | 第25-26页 |
2.1.2 本方案特性 | 第26-27页 |
2.2 小文件合并与大文件分割的存储方案 | 第27-29页 |
2.2.1 本方案特性 | 第27-28页 |
2.2.2 小文件合并的工作原理 | 第28-29页 |
2.2.3 大文件分割的工作原理 | 第29页 |
2.3 基于对等集群架构的动态数据路由策略 | 第29-34页 |
2.3.1 读操作的路由策略 | 第29-31页 |
2.3.2 写操作的路由策略 | 第31-32页 |
2.3.3 读写分离 | 第32-33页 |
2.3.4 基于主从选举的对等集群架构 | 第33-34页 |
2.3.5 本方案特性 | 第34页 |
2.4 本章小结 | 第34-36页 |
第三章 适配海量小文件的分布式文件系统整体架构 | 第36-46页 |
3.1 功能需求概述 | 第36页 |
3.2 系统框架与架构 | 第36-39页 |
3.3 存储机制 | 第39-42页 |
3.3.1 元数据读写操作 | 第39-40页 |
3.3.2 文件数据读操作 | 第40-41页 |
3.3.3 文件数据写操作 | 第41-42页 |
3.4 平滑扩容机制 | 第42-44页 |
3.4.1 存储集群扩容 | 第42页 |
3.4.2 分布式内存数据库扩容 | 第42-43页 |
3.4.3 备份数据库分表 | 第43-44页 |
3.5 容灾机制 | 第44-45页 |
3.5.1 数据容灾 | 第44页 |
3.5.2 无单点故障 | 第44-45页 |
3.6 本章小结 | 第45-46页 |
第四章 适配海量小文件的分布式文件系统模块实现 | 第46-65页 |
4.1 系统整体架构 | 第46-47页 |
4.2 数据库的设计 | 第47-51页 |
4.2.1 数据库的部署 | 第47-48页 |
4.2.2 文件元数据表的设计 | 第48页 |
4.2.3 数据路由信息表的设计 | 第48-49页 |
4.2.4 Redis的应用 | 第49-51页 |
4.3 用户接口模块的实现 | 第51-54页 |
4.3.1 需求分析 | 第51-52页 |
4.3.2 接口定义 | 第52-53页 |
4.3.3 内部结构 | 第53-54页 |
4.4 分布式协调系统的实现 | 第54-56页 |
4.4.1 需求分析 | 第54页 |
4.4.2 Zookeeper的应用 | 第54-56页 |
4.5 代理节点的实现 | 第56-62页 |
4.5.1 内部结构 | 第56-57页 |
4.5.2 HTTP服务模块的实现 | 第57-59页 |
4.5.3 存储节点管理模块的实现 | 第59-61页 |
4.5.4 其它模块与存储节点管理模块之间的通信 | 第61-62页 |
4.6 存储节点的实现 | 第62-63页 |
4.6.1 内部结构 | 第62-63页 |
4.6.2 文件索引的实现 | 第63页 |
4.7 负载均衡器的实现 | 第63-64页 |
4.8 本章小结 | 第64-65页 |
第五章 系统测试与结果分析 | 第65-79页 |
5.1 测试目的 | 第65页 |
5.2 实验环境 | 第65-68页 |
5.2.1 系统部署 | 第65-67页 |
5.2.2 测试工具 | 第67-68页 |
5.3 系统测试 | 第68-77页 |
5.3.1 基本存储功能测试 | 第68-69页 |
5.3.2 海量小文件的空间利用率测试 | 第69-72页 |
5.3.3 小文件读写速率测试 | 第72-73页 |
5.3.4 大文件读写速率测试 | 第73-74页 |
5.3.5 容灾测试 | 第74-76页 |
5.3.6 平滑扩容测试 | 第76-77页 |
5.4 测试结果分析 | 第77页 |
5.5 本章小结 | 第77-79页 |
总结与展望 | 第79-81页 |
参考文献 | 第81-84页 |
攻读硕士学位期间取得的研究成果 | 第84-85页 |
致谢 | 第85-87页 |
附件 | 第87页 |