摘要 | 第3-4页 |
Abstract | 第4页 |
第一章 绪论 | 第7-12页 |
1.1 研究背景与意义 | 第7-9页 |
1.2 主题爬虫相关研究 | 第9页 |
1.3 研究内容与目标 | 第9-10页 |
1.3.1 研究目标 | 第10页 |
1.3.2 研究内容 | 第10页 |
1.4 本文内容结构 | 第10-12页 |
第二章 网页资源抽取算法概述 | 第12-18页 |
2.1 网页分块技术 | 第12-15页 |
2.1.1 基于网页标签分布规律的网页分块 | 第12页 |
2.1.2 基于网页DOM树结构的网页分块 | 第12-14页 |
2.1.3 基于视觉特征的页面分块算法 | 第14-15页 |
2.2 网页链接抽取算法 | 第15-16页 |
2.2.1 基于网页分块的链接抽取算法 | 第15页 |
2.2.2 基于链接属性的链接抽取算法 | 第15-16页 |
2.3 网页链接的相关文本抽取算法 | 第16-17页 |
2.4 基于扩展DOM树与页面间联系的链接及链接相关文本抽取算法 | 第17-18页 |
第三章 基于扩展DOM树的网页链接抽取 | 第18-32页 |
3.1 爬虫抓取对象的选择 | 第18-20页 |
3.2 相关链接以及噪音链接的确定 | 第20-21页 |
3.3 基于链接的网页分块 | 第21-28页 |
3.3.0 网页预处理工具选择 | 第21-23页 |
3.3.1 网页预处理 | 第23-24页 |
3.3.2 扩展DOM树 | 第24-28页 |
3.4 基于链接特点的噪音链接过滤 | 第28-31页 |
3.4.1 基于DOM结构的链接分块 | 第28-29页 |
3.4.2 基于分块和链接特点的链接过滤 | 第29-31页 |
3.5 本章小结 | 第31-32页 |
第四章 基于扩展DOM树与网页外部联系的链接相关文本抽取 | 第32-42页 |
4.1 基于三个维度的网页链接分析 | 第32-34页 |
4.2 链接相关文本分析 | 第34-39页 |
4.2.1 过往研究中链接相关文本分析 | 第34-36页 |
4.2.2 基于链接类型的链接相关文本分析 | 第36-39页 |
4.3 抽取链接相关文本算法 | 第39-41页 |
4.4 本章小结 | 第41-42页 |
第五章 实验验证 | 第42-47页 |
5.1 实验方案设计 | 第42-44页 |
5.1.1 Web资源抽取算法流程 | 第42-43页 |
5.1.2 实验数据准备 | 第43-44页 |
5.1.3 实验方案设计 | 第44页 |
5.2 噪音过滤算法的结果与分析 | 第44-45页 |
5.2.1 实验结果与分析 | 第44-45页 |
5.2.2 待改进之处 | 第45页 |
5.3 链接相关文本抽取算法的结果与分析 | 第45-46页 |
5.3.1 实验结果与分析 | 第45-46页 |
5.3.2 待改进之处 | 第46页 |
5.4 本章小结 | 第46-47页 |
第六章 总结与展望 | 第47-48页 |
6.1 研究工作总结 | 第47页 |
6.2 研究展望 | 第47-48页 |
参考文献 | 第48-50页 |
致谢 | 第50页 |