垂直搜索中网页信息自动化抓取的研究与实现
| 摘要 | 第4-5页 |
| ABSTRACT | 第5-6页 |
| 第一章 绪论 | 第10-13页 |
| 1.1 研究背景及意义 | 第10-11页 |
| 1.2 研究目的 | 第11页 |
| 1.3 本文的主要工作及组织结构 | 第11-12页 |
| 1.4 本章小结 | 第12-13页 |
| 第二章 相关技术介绍 | 第13-24页 |
| 2.1 搜索引擎发展现状 | 第13-14页 |
| 2.1.1 搜索引擎发展 | 第13-14页 |
| 2.1.2 通用搜索引擎的局限性 | 第14页 |
| 2.2 垂直搜索引擎 | 第14-16页 |
| 2.2.1 垂直搜索引擎发展 | 第14-15页 |
| 2.2.2 垂直搜索引擎基本原理 | 第15-16页 |
| 2.3 垂直网络爬虫概述 | 第16-17页 |
| 2.4 垂直网络爬虫相关技术 | 第17-23页 |
| 2.4.1 Scrapy爬虫框架 | 第17-20页 |
| 2.4.2 Spring框架 | 第20-21页 |
| 2.4.3 Hibernate框架 | 第21-23页 |
| 2.5 本章小结 | 第23-24页 |
| 第三章 网页自动发现机制的设计与实现 | 第24-33页 |
| 3.1 垂直爬虫抓取覆盖率问题 | 第24-25页 |
| 3.2 网页自动发现机制 | 第25-27页 |
| 3.2.1 问题分析思路 | 第25页 |
| 3.2.2 视频网站页面分析 | 第25-26页 |
| 3.2.3 网页自动发现机制方案设计 | 第26-27页 |
| 3.3 网页自动发现机制方案实现 | 第27-32页 |
| 3.3.1 抓取入口 | 第27-29页 |
| 3.3.2 页面联系 | 第29-31页 |
| 3.3.3 页面去重模块 | 第31-32页 |
| 3.4 本章小结 | 第32-33页 |
| 第四章 网页自动重新访问机制的设计与实现 | 第33-48页 |
| 4.1 网页信息失效问题 | 第33页 |
| 4.2 网页自动重新访问机制 | 第33-36页 |
| 4.2.1 整体系统角度分析 | 第33-34页 |
| 4.2.2 视频网站页面特点分析 | 第34-35页 |
| 4.2.3 网页自动重新访问机制设计 | 第35-36页 |
| 4.3 网页自动重新访问机制方案实现 | 第36-47页 |
| 4.3.1 方案系统架构 | 第36-37页 |
| 4.3.2 链接选取模块 | 第37-43页 |
| 4.3.3 网页重新抓取模块 | 第43-47页 |
| 4.4 本章小结 | 第47-48页 |
| 第五章 抽取失效自动报警机制的设计与实现 | 第48-57页 |
| 5.1 抽取规则失效问题 | 第48页 |
| 5.2 抽取规则失效自动报警机制 | 第48-51页 |
| 5.2.1 问题分析思路 | 第49页 |
| 5.2.2 整体系统影响 | 第49页 |
| 5.2.3 抽取失效后果 | 第49-50页 |
| 5.2.4 抽取规则失效自动报警机制方案设计 | 第50-51页 |
| 5.3 抽取规则失效自动报警机制方案实现 | 第51-55页 |
| 5.3.1 方案系统架构 | 第51-52页 |
| 5.3.2 数据统计模块 | 第52-53页 |
| 5.3.3 数据分析模块 | 第53-55页 |
| 5.3.4 邮件报警模块 | 第55页 |
| 5.4 本章小结 | 第55-57页 |
| 第六章 实验及测试 | 第57-74页 |
| 6.1 实验环境 | 第57-58页 |
| 6.1.1 硬件环境 | 第57-58页 |
| 6.1.2 软件环境 | 第58页 |
| 6.2 网页自动发现机制测试 | 第58-63页 |
| 6.2.1 实验设计 | 第58-59页 |
| 6.2.2 数据分析 | 第59-63页 |
| 6.2.3 实验总结 | 第63页 |
| 6.3 网页自动重新访问机制测试 | 第63-69页 |
| 6.3.1 实验设计 | 第63页 |
| 6.3.2 数据分析 | 第63-68页 |
| 6.3.3 实验总结 | 第68-69页 |
| 6.4 抽取规则失效自动报警机制测试 | 第69-73页 |
| 6.4.1 实验设计 | 第69-70页 |
| 6.4.2 数据分析 | 第70-72页 |
| 6.4.3 实验总结 | 第72-73页 |
| 6.5 本章小结 | 第73-74页 |
| 第七章 总结和展望 | 第74-76页 |
| 7.1 本文工作总结 | 第74页 |
| 7.2 今后研究展望 | 第74-76页 |
| 参考文献 | 第76-77页 |
| 致谢 | 第77-78页 |
| 攻读学位期间发表的学术论文和科研情况 | 第78页 |
