基于网络爬虫的信息采集技术研究
| 中文摘要 | 第4-5页 |
| ABSTRACT | 第5页 |
| 第1章 绪论 | 第8-12页 |
| 1.1 本课题研究背景与意义 | 第8页 |
| 1.2 国内外研究现状 | 第8-10页 |
| 1.2.1 网页采集的研究现状 | 第8-10页 |
| 1.2.2 网页信息抽取的技术现状 | 第10页 |
| 1.3 本文主要内容和结构安排 | 第10-12页 |
| 第2章 网站信息采集技术研究 | 第12-28页 |
| 2.1 网络爬虫相关技术 | 第12-18页 |
| 2.1.1 网络爬虫的介绍 | 第12-16页 |
| 2.1.2 Heritrix介绍 | 第16-18页 |
| 2.2 网页信息抽取相关技术 | 第18-20页 |
| 2.2.1 Web信息特点 | 第18页 |
| 2.2.2 Web信息抽取的概念 | 第18-19页 |
| 2.2.3 Htmlparser介绍 | 第19-20页 |
| 2.3 文件索引相关技术 | 第20-23页 |
| 2.3.1 全文检索技术介绍 | 第20页 |
| 2.3.2 Lucene介绍 | 第20-21页 |
| 2.3.3 Lucene包结构 | 第21-22页 |
| 2.3.4 Lucene主要逻辑图 | 第22-23页 |
| 2.4 系统开发相关技术介绍 | 第23-28页 |
| 2.4.1 Struts2框架介绍 | 第23-24页 |
| 2.4.2 Spring框架介绍 | 第24-26页 |
| 2.4.3 Hibernate框架 | 第26-28页 |
| 第3章 基于爬虫的信息采集技术整合设计 | 第28-41页 |
| 3.1 信息采集技术整合概述 | 第28-29页 |
| 3.2 基于HERITRIX爬虫框架的拓展 | 第29-31页 |
| 3.2.1 Heritrix结构分析 | 第29-30页 |
| 3.2.2 面对Heritrix爬虫的扩展设计 | 第30-31页 |
| 3.3 基于HTMLPARSER的信息抽取设计 | 第31-35页 |
| 3.3.1 识别网页的编码 | 第31-33页 |
| 3.3.2 HTML内容提取 | 第33-35页 |
| 3.4 基于LUCENE和SSH的信息检索设计 | 第35-41页 |
| 3.4.1 SSH框架整合设计 | 第36-38页 |
| 3.4.2 SSH框架整合设计 | 第38-39页 |
| 3.4.3 信息采集数据库设计 | 第39-41页 |
| 第4章 网站信息采集技术整合实现 | 第41-56页 |
| 4.1 开发环境 | 第41页 |
| 4.2 HERITRIX爬虫拓展实现 | 第41-48页 |
| 4.2.1 爬虫的拓展实现 | 第41-43页 |
| 4.2.2 heritrix拓展运行展示 | 第43-45页 |
| 4.2.3 heritrix的优化 | 第45-48页 |
| 4.3 基于HTMLPARSER的信息抽取实现 | 第48-50页 |
| 4.4 基于LUCENE与SSH2的信息检索实现 | 第50-55页 |
| 4.4.1 数据库内容索引 | 第50-51页 |
| 4.4.2 信息检索查询 | 第51-53页 |
| 4.4.3 信息检索查询运行展示 | 第53-55页 |
| 4.5 本章小结 | 第55-56页 |
| 第5章 工作总结与展望 | 第56-58页 |
| 5.1 工作总结 | 第56页 |
| 5.2 工作展望 | 第56-58页 |
| 参考文献 | 第58-60页 |
| 攻读硕士期间的研究成果与参加项目 | 第60-61页 |
| 致谢 | 第61页 |
