| 摘要 | 第4-6页 |
| abstract | 第6-7页 |
| 第一章 绪论 | 第11-16页 |
| 1.1 研究背景和意义 | 第11-12页 |
| 1.2 国内外研究现状 | 第12-14页 |
| 1.3 论文研究内容 | 第14-15页 |
| 1.4 论文结构安排 | 第15-16页 |
| 第二章 爬虫相关理论和技术 | 第16-25页 |
| 2.1 搜索引擎简介 | 第16-18页 |
| 2.1.1 搜索引擎基本原理 | 第16-17页 |
| 2.1.2 搜索引擎的分类 | 第17-18页 |
| 2.2 通用爬虫 | 第18-19页 |
| 2.3 主题爬虫 | 第19-22页 |
| 2.3.1 主题爬虫原理 | 第19-20页 |
| 2.3.2 主题爬虫的结构 | 第20-22页 |
| 2.4 相关技术简介 | 第22-24页 |
| 2.4.1 URL去重技术 | 第22-23页 |
| 2.4.2 Webmagic | 第23页 |
| 2.4.3 正则表达式 | 第23页 |
| 2.4.4 Elasticsearch | 第23-24页 |
| 2.5 本章小结 | 第24-25页 |
| 第三章 基于链接的主题爬虫算法HITS的改进 | 第25-35页 |
| 3.1 HITS算法及其局限性 | 第25-28页 |
| 3.2 IHITS算法 | 第28-30页 |
| 3.3 实验及分析 | 第30-34页 |
| 3.3.1 实验方案 | 第30页 |
| 3.3.2 实验数据集 | 第30-31页 |
| 3.3.3 算法评价指标 | 第31-32页 |
| 3.3.4 结果分析 | 第32-34页 |
| 3.4 本章小结 | 第34-35页 |
| 第四章 基于内容的主题爬虫算法Shark-Search的改进 | 第35-45页 |
| 4.1 Shark-Search算法及其局限性 | 第35-38页 |
| 4.2 ISS算法 | 第38-40页 |
| 4.3 实验及结果分析 | 第40-44页 |
| 4.3.1 评价方法 | 第40-42页 |
| 4.3.2 结果分析 | 第42-44页 |
| 4.4 本章小结 | 第44-45页 |
| 第五章 爬虫原型系统设计与实现 | 第45-56页 |
| 5.1 系统需求分析 | 第45-46页 |
| 5.1.1 系统总体目标 | 第45页 |
| 5.1.2 功能需求 | 第45-46页 |
| 5.1.3 系统性能需求 | 第46页 |
| 5.2 系统总体设计 | 第46-48页 |
| 5.2.1 系统功能架构 | 第46-47页 |
| 5.2.2 系统工作流程 | 第47-48页 |
| 5.3 系统数据库设计 | 第48-49页 |
| 5.4 反爬虫机制的应对策略 | 第49-52页 |
| 5.5 系统业务功能实现 | 第52-54页 |
| 5.5.1 模板编辑 | 第52-53页 |
| 5.5.2 创建定时任务 | 第53页 |
| 5.5.3 状态查看 | 第53-54页 |
| 5.6 系统爬行实验 | 第54-55页 |
| 5.7 本章小结 | 第55-56页 |
| 第六章 总结与展望 | 第56-58页 |
| 6.1 本文工作总结 | 第56-57页 |
| 6.2 本文工作展望 | 第57-58页 |
| 参考文献 | 第58-62页 |
| 致谢 | 第62页 |