摘要 | 第4-5页 |
ABSTRACT | 第5页 |
第一章 引言 | 第8-15页 |
1.1 研究背景 | 第8-10页 |
1.2 国内外相关研究现状 | 第10-12页 |
1.3 研究口标和研究内容 | 第12-13页 |
1.4 本文组织结构 | 第13-15页 |
第二章 相关技术理论 | 第15-24页 |
2.1 HDFS分布式文件系统 | 第15-17页 |
2.1.1 HDFS的特性 | 第15-16页 |
2.1.2 HDFS体系架构 | 第16-17页 |
2.2 HBase数据库 | 第17-18页 |
2.3 小文件存储相关技术 | 第18-20页 |
2.3.1 HAR小文件存储技术 | 第19页 |
2.3.2 SequenceFile小文件存储技术 | 第19页 |
2.3.3 多NameNode节点小文件存储技术 | 第19-20页 |
2.4 数据去重相关技术 | 第20-23页 |
2.4.1 数据去重技术简介 | 第20页 |
2.4.2 数据去重技术分类 | 第20-22页 |
2.4.3 Counting Bloom Filter算法 | 第22-23页 |
2.5 本章小结 | 第23-24页 |
第三章 基于HDFS的学习资源库数据存储架构的设计 | 第24-29页 |
3.1 学习资源库数据存储架构的设计 | 第24页 |
3.2 学习资源元数据的定义和存储 | 第24-25页 |
3.3 学习资源存储可靠性和可扩展性设计 | 第25-28页 |
3.3.1 学习资源存储可靠性设计 | 第25-27页 |
3.3.2 学习资源存储可扩展性设计 | 第27-28页 |
3.4 本章小结 | 第28-29页 |
第四章 基于HDFS的学习资源库小文件存储优化 | 第29-35页 |
4.1 小文件存储问题 | 第29页 |
4.2 小文件存储优化设计 | 第29-33页 |
4.2.1 小文件存储优化方案与架构 | 第30-31页 |
4.2.2 小文件操作过程 | 第31-33页 |
4.3 小文件存储优化主要实现 | 第33-34页 |
4.4 本章小结 | 第34-35页 |
第五章 基于HDFS的学习资源库冗余数据去重技术 | 第35-43页 |
5.1 学习资源冗余数据去重技术研究 | 第35-37页 |
5.1.1 学习资源冗余数据去重一般过程 | 第35-36页 |
5.1.2 Counting Bloom Filter算法的计数器大小分析 | 第36-37页 |
5.2 学习资源冗余数据去重实现过程 | 第37-39页 |
5.3 学习资源基本操作过程 | 第39-42页 |
5.3.1 学习资源上传操作过程 | 第39-41页 |
5.3.2 学习资源删除操作过程 | 第41-42页 |
5.4 本章小结 | 第42-43页 |
第六章 系统相关性能测试与分析 | 第43-50页 |
6.1 测试准备 | 第43-44页 |
6.1.1 系统硬件和软件环境 | 第43-44页 |
6.1.2 存储系统实现 | 第44页 |
6.2 性能测试与分析 | 第44-49页 |
6.2.1 数据读写性能测试 | 第44-46页 |
6.2.2 小文件存储优化性能测试 | 第46-48页 |
6.2.3 学习资源冗余数据去重性能测试 | 第48-49页 |
6.3 本章小结 | 第49-50页 |
第七章 总结与展望 | 第50-52页 |
7.1 论文主要工作总结 | 第50-51页 |
7.2 展望 | 第51-52页 |
致谢 | 第52-53页 |
参考文献 | 第53-55页 |