面向农业科学数据的分布式存储系统的研究与实现
| 摘要 | 第4-5页 |
| Abstract | 第5-6页 |
| 第1章 绪论 | 第10-18页 |
| 1.1 本文的选题背景 | 第10-11页 |
| 1.2 既有农科大数据存储技术的不足 | 第11-12页 |
| 1.3 分布式存储技术及其在农业大数据存储的挑战 | 第12-14页 |
| 1.4 本文的研究内容及主要贡献 | 第14-15页 |
| 1.5 本文的组织结构 | 第15-18页 |
| 第2章 相关技术分析 | 第18-28页 |
| 2.1 分布式存储相关技术 | 第18-22页 |
| 2.1.1 HDFS分布式文件系统 | 第18-20页 |
| 2.1.2 HBase分布式数据库系统 | 第20-22页 |
| 2.2 文件存储关键技术 | 第22-26页 |
| 2.2.1 小文件存储相关技术 | 第22-24页 |
| 2.2.2 缓存管理技术 | 第24-25页 |
| 2.2.3 副本管理技术 | 第25-26页 |
| 2.3 本章小结 | 第26-28页 |
| 第3章 面向农科大数据的分布式存储系统的框架设计 | 第28-34页 |
| 3.1 系统的设计目标 | 第28-29页 |
| 3.2 系统的设计思路及方案选取 | 第29-30页 |
| 3.3 系统的框架结构 | 第30-32页 |
| 3.3.1 系统的框架模型 | 第30-31页 |
| 3.3.2 系统的层次结构 | 第31-32页 |
| 3.4 本章小结 | 第32-34页 |
| 第4章 面向农科大数据的海量小文件存储策略 | 第34-48页 |
| 4.1 农科数据分布以及使用特征 | 第34-35页 |
| 4.2 基于多属性的海量农科小文件合并存储方法 | 第35-41页 |
| 4.2.1 小文件的合并存储原理 | 第35-36页 |
| 4.2.2 基于属性的分类模型 | 第36-37页 |
| 4.2.3 元数据的存储结构 | 第37-39页 |
| 4.2.4 聚合文件的创建过程 | 第39-40页 |
| 4.2.5 索引文件的结构 | 第40-41页 |
| 4.3 海量农科小文件的缓存管理模型 | 第41-43页 |
| 4.3.1 数据缓存结构 | 第42-43页 |
| 4.3.2 缓存置换与一致性 | 第43页 |
| 4.4 小文件I/O操作流程 | 第43-46页 |
| 4.4.1 文件写入流程 | 第43-44页 |
| 4.4.2 文件读取流程 | 第44-46页 |
| 4.5 本章小结 | 第46-48页 |
| 第5章 面向农科大数据的动态副本管理策略 | 第48-56页 |
| 5.1 基于文件访问频率的动态副本调整策略 | 第48-52页 |
| 5.1.1 动态副本调整的基本思想 | 第48-49页 |
| 5.1.2 文件访问频率计算 | 第49-51页 |
| 5.1.3 动态副本调整的流程 | 第51-52页 |
| 5.2 基于节点状态的动态副本放置策略 | 第52-54页 |
| 5.2.1 动态副本放置的基本思想 | 第52页 |
| 5.2.2 节点状态参数选择 | 第52-53页 |
| 5.2.3 动态副本放置的流程 | 第53-54页 |
| 5.3 本章小结 | 第54-56页 |
| 第6章 面向农科大数据的分布式存储系统实现与评测 | 第56-68页 |
| 6.1 系统功能模块的实现 | 第56-59页 |
| 6.1.1 小文件合并存储模块 | 第56-58页 |
| 6.1.2 动态副本管理模块 | 第58-59页 |
| 6.2 用户访问接口的实现 | 第59-61页 |
| 6.2.1 文件上传 | 第59-60页 |
| 6.2.2 文件列表浏览 | 第60-61页 |
| 6.2.3 文件下载 | 第61页 |
| 6.3 性能评测 | 第61-67页 |
| 6.3.1 测试环境部署 | 第62-63页 |
| 6.3.2 小文件合并策略测试结果与分析 | 第63-65页 |
| 6.3.3 动态副本策略测试结果与分析 | 第65-67页 |
| 6.4 本章小结 | 第67-68页 |
| 结论 | 第68-70页 |
| 参考文献 | 第70-74页 |
| 攻读硕士学位期间获得的科研成果 | 第74-76页 |
| 致谢 | 第76页 |
