| 摘要 | 第4-5页 |
| ABSTRACT | 第5页 |
| 第1章 绪论 | 第8-20页 |
| 1.1 课题研究背景和意义 | 第8页 |
| 1.2 网页爬虫相关介绍 | 第8-13页 |
| 1.2.1 通用网络爬虫 | 第9-10页 |
| 1.2.2 聚焦网络爬虫 | 第10-11页 |
| 1.2.3 增量式网络爬虫 | 第11-12页 |
| 1.2.4 深层网络爬虫 | 第12-13页 |
| 1.3 爬虫及网页内容解析研究 | 第13-16页 |
| 1.4 网站相似度研究 | 第16-17页 |
| 1.5 本课题研究内容与方法 | 第17-18页 |
| 1.6 本文工作内容及组织结构 | 第18-20页 |
| 第2章 主动发现技术研究 | 第20-31页 |
| 2.1 元搜索发现技术研究 | 第20-25页 |
| 2.1.1 整体技术设计 | 第20-21页 |
| 2.1.2 网页内容抽取模块 | 第21页 |
| 2.1.3 网页数据解析模块 | 第21-23页 |
| 2.1.4 搜索任务解析模块 | 第23-24页 |
| 2.1.5 URL去重模块 | 第24-25页 |
| 2.1.6 元搜索发现技术案例 | 第25页 |
| 2.2 垂直搜索跟踪技术研究 | 第25-29页 |
| 2.2.1 整体技术设计 | 第25-26页 |
| 2.2.2 网页跳转调度模块 | 第26-27页 |
| 2.2.3 垂直搜索跟踪技术案例 | 第27-29页 |
| 2.3 主动发现技术测试与分析 | 第29-30页 |
| 2.4 本章小结 | 第30-31页 |
| 第3章 网页Title比对方法研究 | 第31-39页 |
| 3.1 网页Title提取方法设计与实现 | 第31-33页 |
| 3.1.1 网页Title解析 | 第31-32页 |
| 3.1.2 网页Title验证 | 第32-33页 |
| 3.2 网页Title比对方法设计与实现 | 第33-37页 |
| 3.2.1 网页Title比对算法设计 | 第33-34页 |
| 3.2.2 网页Title比对算法实现 | 第34-37页 |
| 3.3 网页Title比对方法测试与分析 | 第37-38页 |
| 3.4 本章小结 | 第38-39页 |
| 第4章 网页结构比对方法研究 | 第39-53页 |
| 4.1 DOM树节点筛选算法设计与实现 | 第39-44页 |
| 4.1.1 DOM树节点筛选算法设计 | 第39-42页 |
| 4.1.2 DOM树节点筛选算法实现 | 第42-44页 |
| 4.2 基于网页VTree的网页相似度比对算法设计与实现 | 第44-50页 |
| 4.2.1 基于网页VTree的网页相似度比对算法设计 | 第44-48页 |
| 4.2.2 基于网页VTree的网页相似度比对算法参数选取 | 第48-49页 |
| 4.2.3 基于网页VTree的网页相似度比对算法实现 | 第49-50页 |
| 4.3 网页结构比对算法测试与分析 | 第50-52页 |
| 4.3.1 DOM树节点筛选算法测试与分析 | 第50-51页 |
| 4.3.2 基于网页VTree的网页相似度比对方法测试与分析 | 第51-52页 |
| 4.4 本章小结 | 第52-53页 |
| 第5章 系统设计与实现 | 第53-64页 |
| 5.1 系统设计 | 第53-58页 |
| 5.1.1 系统整体设计 | 第53页 |
| 5.1.2 网页特征生成模块 | 第53-54页 |
| 5.1.3 元搜索发现模块 | 第54-55页 |
| 5.1.4 垂直搜索跟踪模块 | 第55-56页 |
| 5.1.5 验证模块 | 第56-58页 |
| 5.2 数据库设计 | 第58-61页 |
| 5.3 系统整体测试案例 | 第61-63页 |
| 5.4 本章小结 | 第63-64页 |
| 结论 | 第64-65页 |
| 参考文献 | 第65-69页 |
| 攻读硕士学位期间发表的论文及其他成果 | 第69-71页 |
| 致谢 | 第71页 |
