| 摘要 | 第3-4页 |
| Abstract | 第4-5页 |
| 第一章 绪论 | 第8-12页 |
| 1.1 研究背景与意义 | 第8-9页 |
| 1.2 国内外研究现状 | 第9-10页 |
| 1.3 研究内容和论文结构 | 第10-11页 |
| 1.4 小结 | 第11-12页 |
| 第二章 HDFS体系及相关技术介绍 | 第12-19页 |
| 2.1 HDFS技术架构 | 第12-13页 |
| 2.2 HDFS存储原理 | 第13-15页 |
| 2.2.1 存储过程 | 第13-14页 |
| 2.2.2 存储策略 | 第14-15页 |
| 2.3 存储优化策略分析 | 第15-17页 |
| 2.3.1 存储空间优化分析 | 第15-16页 |
| 2.3.2 存储结构优化分析 | 第16-17页 |
| 2.3.3 存储模型的设计 | 第17页 |
| 2.4 小结 | 第17-19页 |
| 第三章 空间优化存储模型的设计 | 第19-30页 |
| 3.1 重复数据删除 | 第19-22页 |
| 3.1.1 相同数据检测 | 第20-21页 |
| 3.1.2 相似数据编码 | 第21-22页 |
| 3.2 标签化去重模型的建立 | 第22-27页 |
| 3.2.1 关键词提取策略 | 第22-25页 |
| 3.2.2 数据相似度匹配 | 第25页 |
| 3.2.3 标签值界定技术研究 | 第25-27页 |
| 3.3 实验分析与结果 | 第27-29页 |
| 3.4 小结 | 第29-30页 |
| 第四章 结构优化存储模型的设计 | 第30-41页 |
| 4.1 密度聚类方法原理 | 第30-31页 |
| 4.1.1 DBSCAN算法 | 第30-31页 |
| 4.1.2 算法描述 | 第31页 |
| 4.2 GA-DBSCANMR模型的建立 | 第31-37页 |
| 4.2.1 基于遗传算法改进的DBSCAN流程 | 第32-34页 |
| 4.2.2 MapReduce优化GA-DBSCAN | 第34-37页 |
| 4.3 实验设计与分析 | 第37-40页 |
| 4.4 小结 | 第40-41页 |
| 第五章 优化存储模型的验证 | 第41-50页 |
| 5.1 环境部署 | 第41-43页 |
| 5.1.1 Hadoop集群 | 第41-42页 |
| 5.1.2 Nutch+HBase组件搭建 | 第42-43页 |
| 5.2 实验方案及结果分析 | 第43-49页 |
| 5.2.1 爬虫数据标签化优化存储空间 | 第43-46页 |
| 5.2.2 GA-DBSCANMR优化存储结构 | 第46-48页 |
| 5.2.3 实验结果分析 | 第48-49页 |
| 5.3 小结 | 第49-50页 |
| 第六章 总结与展望 | 第50-52页 |
| 致谢 | 第52-53页 |
| 参考文献 | 第53-56页 |