基于相似性的分布式重复数据删除技术研究
| 摘要 | 第4-5页 |
| ABSTRACT | 第5页 |
| 图表目录 | 第8-10页 |
| 第1章 引言 | 第10-17页 |
| 1.1 研究背景及意义 | 第10-12页 |
| 1.2 国内外研究现状 | 第12-14页 |
| 1.3 研究内容 | 第14-15页 |
| 1.4 本文组织结构 | 第15-17页 |
| 第2章 相关技术 | 第17-30页 |
| 2.1 重复数据删除技术 | 第17-25页 |
| 2.1.1 数据分块 | 第17-20页 |
| 2.1.2 指纹计算 | 第20-21页 |
| 2.1.3 索引优化 | 第21-25页 |
| 2.2 Hadoop 分布式框架 | 第25-29页 |
| 2.2.1 HDFS | 第26-28页 |
| 2.2.2 MapReduce | 第28-29页 |
| 2.3 本章小结 | 第29-30页 |
| 第3章 基于相似性的分布式去重模型 | 第30-46页 |
| 3.1 模型总体设计 | 第30-33页 |
| 3.2 模块功能设计 | 第33-40页 |
| 3.2.1 预处理模块 | 第34-35页 |
| 3.2.2 主节点模块 | 第35-38页 |
| 3.2.3 局部数据节点模块 | 第38-40页 |
| 3.3 模型执行及维护策略 | 第40-45页 |
| 3.3.1 循环执行策略 | 第40-43页 |
| 3.3.2 模型维护策略 | 第43-45页 |
| 3.4 本章小结 | 第45-46页 |
| 第4章 基于相似性的分布式去重模型的实现 | 第46-59页 |
| 4.1 文件处理算法 | 第46-54页 |
| 4.1.1 单文件处理 | 第46-49页 |
| 4.1.2 多文件处理 | 第49-54页 |
| 4.2 模型优化 | 第54-56页 |
| 4.3 模型执行代价分析 | 第56-58页 |
| 4.4 本章小结 | 第58-59页 |
| 第5章 实验及结果分析 | 第59-69页 |
| 5.1 实验环境 | 第59-61页 |
| 5.2 实验结果分析 | 第61-67页 |
| 5.2.1 数据缩减率 | 第61-62页 |
| 5.2.2 内存占用情况 | 第62-64页 |
| 5.2.3 系统吞吐率 | 第64-65页 |
| 5.2.4 可扩展性 | 第65-67页 |
| 5.3 本章小结 | 第67-69页 |
| 第6章 总结和展望 | 第69-71页 |
| 6.1 总结 | 第69页 |
| 6.2 展望 | 第69-71页 |
| 致谢 | 第71-72页 |
| 参考文献 | 第72-75页 |
| 附件 | 第75-99页 |
