主题网络爬虫搜索策略及主题判别方法研究
| 摘要 | 第5-6页 |
| Abstract | 第6-7页 |
| 第1章 绪论 | 第11-17页 |
| 1.1 研究背景及意义 | 第11-12页 |
| 1.2 国内外研究现状 | 第12-14页 |
| 1.2.1 国外研究现状 | 第12-13页 |
| 1.2.2 国内研究现状 | 第13-14页 |
| 1.3 研究中的主要问题 | 第14页 |
| 1.4 本文研究内容和章节安排 | 第14-17页 |
| 1.4.1 本文研究内容 | 第14-15页 |
| 1.4.2 本文章节安排 | 第15-17页 |
| 第2章 网络爬虫相关概念 | 第17-23页 |
| 2.1 网络爬虫概述 | 第17页 |
| 2.2 通用网络爬虫 | 第17-19页 |
| 2.2.1 通用网络爬虫体系结构 | 第17-19页 |
| 2.2.2 通用网络爬虫的不足 | 第19页 |
| 2.3 主题网络爬虫 | 第19-21页 |
| 2.4 通用网络爬虫与主题网络爬虫的区别 | 第21页 |
| 2.5 本章小结 | 第21-23页 |
| 第3章 主题爬虫中页面正文信息抽取方法研究 | 第23-35页 |
| 3.1 网页文本处理 | 第23-24页 |
| 3.1.1 中文分词 | 第23-24页 |
| 3.1.2 去停用词 | 第24页 |
| 3.2 基于文本行特征的网页正文信息抽取方法 | 第24-28页 |
| 3.2.1 相关研究 | 第24-25页 |
| 3.2.2 文本行特征 | 第25-26页 |
| 3.2.3 预处理模块 | 第26-27页 |
| 3.2.4 抽取模块 | 第27-28页 |
| 3.3 实验与分析 | 第28-34页 |
| 3.3.1 实验数据及对比方法的选取 | 第28-30页 |
| 3.3.2 评价方法 | 第30页 |
| 3.3.3 实验结果 | 第30-33页 |
| 3.3.4 实验分析 | 第33-34页 |
| 3.4 本章小结 | 第34-35页 |
| 第4章 主题爬虫中页面主题判别研究 | 第35-43页 |
| 4.1 页面主题判别相关概念 | 第35页 |
| 4.2 常用的文本分类算法 | 第35-39页 |
| 4.2.1 基于规则的文本分类方法 | 第35-36页 |
| 4.2.2 基于统计的文本分类方法 | 第36-39页 |
| 4.3 本文采用的主题判别方法 | 第39-41页 |
| 4.4 本章小结 | 第41-43页 |
| 第5章 主题爬虫搜索策略研究 | 第43-55页 |
| 5.1 页面链接和页面分布特性 | 第43-44页 |
| 5.1.1Web链接构成分析 | 第43页 |
| 5.1.2 页面分布及链接特性 | 第43-44页 |
| 5.2 爬虫搜索策略 | 第44-49页 |
| 5.2.1 通用爬虫搜索策略 | 第44-45页 |
| 5.2.2 主题爬虫搜索策略 | 第45-49页 |
| 5.3 融合网页链接结构和网页内容的搜索策略 | 第49-51页 |
| 5.3.1 改进的搜索策略 | 第49-50页 |
| 5.3.2 伪代码 | 第50-51页 |
| 5.4 实验结果与分析 | 第51-54页 |
| 5.4.1 实验环境 | 第51-52页 |
| 5.4.2 评价方法与参数设定 | 第52-53页 |
| 5.4.3 结果与分析 | 第53-54页 |
| 5.5 本章小结 | 第54-55页 |
| 第6章 总结与展望 | 第55-57页 |
| 6.1 工作总结 | 第55-56页 |
| 6.2 工作展望 | 第56-57页 |
| 参考文献 | 第57-61页 |
| 攻读硕士学位期间已撰写和发表的论文 | 第61-63页 |
| 致谢 | 第63页 |
