| 摘要 | 第8-9页 |
| 英文摘要 | 第9-10页 |
| 1 前言 | 第11-17页 |
| 1.1 课题研究目的和意义 | 第11-12页 |
| 1.2 国内外研究现状 | 第12-15页 |
| 1.3 研究的主要内容 | 第15页 |
| 1.4 本文组织结构 | 第15-17页 |
| 2 主题网页信息采集概述 | 第17-25页 |
| 2.1 搜索引擎介绍 | 第17-19页 |
| 2.1.1 搜索引擎的发展 | 第17页 |
| 2.1.2 搜索引擎的分类 | 第17-18页 |
| 2.1.3 搜索引擎体系结构 | 第18-19页 |
| 2.2 通用网络爬虫 | 第19-22页 |
| 2.2.1 网络爬虫的结构 | 第19-20页 |
| 2.2.2 网络爬虫的工作流程 | 第20-21页 |
| 2.2.3 网络爬虫的搜索策略 | 第21-22页 |
| 2.3 主题网页信息采集 | 第22-24页 |
| 2.3.1 主题爬虫结构 | 第22-23页 |
| 2.3.2 主题爬虫的工作流程 | 第23页 |
| 2.3.3 主题爬虫的特性 | 第23-24页 |
| 2.4 本章小结 | 第24-25页 |
| 3 主题网页信息采集关键技术研究 | 第25-44页 |
| 3.1 Web信息抽取技术 | 第25-31页 |
| 3.1.1 Web信息抽取方法 | 第25-28页 |
| 3.1.2 HTML网页文档对象模型 | 第28-31页 |
| 3.2 网页主题相关度计算模型 | 第31-35页 |
| 3.2.1 布尔模型 | 第31页 |
| 3.2.2 向量空间模型 | 第31-33页 |
| 3.2.3 概率检索模型 | 第33-35页 |
| 3.3 爬行策略算法研究 | 第35-39页 |
| 3.3.1 基于文字内容的算法 | 第35-36页 |
| 3.3.2 基于链接分析的算法 | 第36-39页 |
| 3.4 采集算法改进研究 | 第39-43页 |
| 3.4.1 主题相关度计算模型及爬行策略优缺点分析 | 第39-40页 |
| 3.4.2 网页主题相关度计算模型的改进 | 第40页 |
| 3.4.3 URL爬行策略优化 | 第40-42页 |
| 3.4.4 双重约束主题采集算法 | 第42-43页 |
| 3.5 本章小结 | 第43-44页 |
| 4 系统设计与实现 | 第44-52页 |
| 4.1 大豆主题网页资源采集系统的实现 | 第44-49页 |
| 4.1.1 Web开源软件分析 | 第44页 |
| 4.1.2 Nutch架构及其机制 | 第44-46页 |
| 4.1.3 基于Nutch的采集系统具体实现 | 第46-49页 |
| 4.2 实验测试与分析 | 第49-51页 |
| 4.2.1 性能评价指标 | 第49-50页 |
| 4.2.2 实验比较及分析 | 第50-51页 |
| 4.3 本章小结 | 第51-52页 |
| 5 总结与展望 | 第52-54页 |
| 5.1 全文总结 | 第52页 |
| 5.2 研究展望 | 第52-54页 |
| 致谢 | 第54-55页 |
| 参考文献 | 第55-59页 |
| 攻读硕士学位期间发表的学术论文 | 第59页 |