| 摘要 | 第1-7页 |
| Abstract | 第7-10页 |
| 第1章 绪论 | 第10-18页 |
| ·本文的研究背景及意义 | 第10-11页 |
| ·国内外研究现状 | 第11-13页 |
| ·分布式系统基础架构 Hadoop | 第13-16页 |
| ·论文所做的工作以及论文结构 | 第16-18页 |
| 第2章 网页数据抓取 | 第18-26页 |
| ·HTTP 请求和响应 | 第18-19页 |
| ·爬虫集群 | 第19-20页 |
| ·作业生命周期 | 第20-21页 |
| ·网页爬取策略 | 第21-24页 |
| ·分布式存储架构 | 第24-25页 |
| ·本章小结 | 第25-26页 |
| 第3章 数据去重 | 第26-37页 |
| ·数据去重简介 | 第26-27页 |
| ·布隆过滤器 | 第27-30页 |
| ·布隆过滤器算法 | 第27-28页 |
| ·布隆过滤器理论分析 | 第28-30页 |
| ·动态布隆过滤器 | 第30-31页 |
| ·布隆过滤器的误判率和饱和度 | 第31-32页 |
| ·二路平衡动态布隆过滤器 | 第32-36页 |
| ·二路平衡动态布隆过滤器算法 | 第32-33页 |
| ·二路平衡动态布隆过滤器性能 | 第33-36页 |
| ·本章小结 | 第36-37页 |
| 第4章 分布式索引系统 | 第37-43页 |
| ·倒排索引 | 第37-39页 |
| ·链接排名算法 PageRank | 第39-42页 |
| ·PageRank 算法 | 第39-41页 |
| ·PageRank 的 Map/Reduce 计算模型 | 第41-42页 |
| ·本章小结 | 第42-43页 |
| 第5章 实现一个简单的分布式搜索引擎 | 第43-52页 |
| ·基本实验环境 | 第43页 |
| ·分布式搜索引擎配置 | 第43-46页 |
| ·SSH 服务配置 | 第43-44页 |
| ·Hadoop 核心配置 | 第44-46页 |
| ·Nutch 平台 | 第46-49页 |
| ·Nutch 的基本组成和工作流程 | 第46-47页 |
| ·Nutch 平台配置 | 第47-49页 |
| ·抓取结果分析 | 第49-52页 |
| 第6章 总结与展望 | 第52-54页 |
| ·工作总结 | 第52页 |
| ·展望 | 第52-54页 |
| 参考文献 | 第54-56页 |
| 致谢 | 第56-57页 |
| 攻读硕士期间发表（含录用）的学术论文 | 第57页 |