| 摘要 | 第4-5页 |
| ABSTRACT | 第5页 |
| 第一章 绪论 | 第8-13页 |
| 1.1 研究背景及研究意义 | 第8-9页 |
| 1.2 国内外研究现状 | 第9-10页 |
| 1.2.1 分布式爬虫的研究现状 | 第9-10页 |
| 1.2.2 Docker集群的研究现状 | 第10页 |
| 1.3 论文的主要工作 | 第10-11页 |
| 1.4 论文章节安排 | 第11-13页 |
| 第二章 相关技术研究 | 第13-27页 |
| 2.1 Docker容器技术 | 第13-15页 |
| 2.2 Docker容器集群技术 | 第15-20页 |
| 2.3 分布式爬虫技术 | 第20-23页 |
| 2.4 Bloom filter算法 | 第23-24页 |
| 2.5 其他相关技术 | 第24-26页 |
| 2.5.1 一致性Hash算法 | 第24-25页 |
| 2.5.2 Redis集群 | 第25-26页 |
| 2.6 本章小结 | 第26-27页 |
| 第三章 基于Docker集群分布式爬虫系统设计 | 第27-39页 |
| 3.1 系统设计目标 | 第27-28页 |
| 3.2 系统整体架构设计 | 第28页 |
| 3.3 分布式爬虫系统设计 | 第28-33页 |
| 3.3.1 分布式爬虫整体架构 | 第28-29页 |
| 3.3.2 分布式爬虫模块功能 | 第29-30页 |
| 3.3.3 模块之间重要交互 | 第30-31页 |
| 3.3.4 重要模块的设计 | 第31-33页 |
| 3.3.5 系统对外提供接口 | 第33页 |
| 3.4 分布式爬虫内容去重设计 | 第33-37页 |
| 3.4.1 页面内容的分词处理 | 第33-34页 |
| 3.4.2 贝叶斯分类算法 | 第34-36页 |
| 3.4.3 SimHash算法 | 第36-37页 |
| 3.5 分布式爬虫部署设计 | 第37-38页 |
| 3.6 本章小结 | 第38-39页 |
| 第四章 基于Docker集群的分布式爬虫实现 | 第39-52页 |
| 4.1 爬虫种子管理模块实现 | 第39-40页 |
| 4.2 爬虫调度模块实现 | 第40-42页 |
| 4.3 URL去重模块实现 | 第42-43页 |
| 4.4 页面内容去重实现 | 第43-47页 |
| 4.4.1 正向最大匹配法分词的实现 | 第43-45页 |
| 4.4.2 贝叶斯分类算法实现 | 第45-46页 |
| 4.4.3 SimHash算法实现 | 第46-47页 |
| 4.5 爬虫环境的搭建 | 第47-50页 |
| 4.6 系统运行效果 | 第50-51页 |
| 4.7 本章小结 | 第51-52页 |
| 第五章 系统性能测试 | 第52-62页 |
| 5.1 使用Docker集群与使用VM集群的性能对比 | 第52-60页 |
| 5.1.1 Docker与VM的性能对比 | 第52-56页 |
| 5.1.2 使用Docker与使用VM的单个爬虫性能对比 | 第56-57页 |
| 5.1.3 使用Docker集群与使用VM集群的分布式爬虫性能对比 | 第57-60页 |
| 5.2 改进的K分型Bloom filter与Bloom filter算法的性能对比 | 第60-61页 |
| 5.3 本章小结 | 第61-62页 |
| 第六章 总结与展望 | 第62-64页 |
| 6.1 论文工作总结 | 第62页 |
| 6.2 研究展望 | 第62-64页 |
| 参考文献 | 第64-68页 |
| 攻读学位期间的研究成果 | 第68-69页 |
| 致谢 | 第69页 |
