基于决策树的URL分类器算法及主题爬虫平台设计
| 摘要 | 第4-6页 |
| Abstract | 第6-7页 |
| 第1章 引言 | 第10-16页 |
| 1.1 研究背景 | 第10-11页 |
| 1.2 研究目的和意义 | 第11页 |
| 1.3 国内外研究现状 | 第11-13页 |
| 1.4 本文研究内容 | 第13-14页 |
| 1.5 论文组织结构 | 第14-16页 |
| 第2章 主题爬虫关键技术研究 | 第16-27页 |
| 2.1 搜索引擎简介 | 第16-18页 |
| 2.2 主题爬虫原理 | 第18-21页 |
| 2.3 主题爬虫的爬行策略研究 | 第21-26页 |
| 2.3.1 基于网页链接关系的爬行策略 | 第21-24页 |
| 2.3.2 基于网页内容的爬行策略 | 第24-26页 |
| 本章小结 | 第26-27页 |
| 第3章 网页文本内容处理技术研究 | 第27-38页 |
| 3.1 网页文本内容预处理 | 第27-31页 |
| 3.1.1 HTML文档结构与解析 | 第27-30页 |
| 3.1.2 网页文本内容的分词处理 | 第30-31页 |
| 3.2 网页文本内容的表示模型 | 第31-33页 |
| 3.2.1 布尔表示模型 | 第32页 |
| 3.2.2 向量空间表示模型 | 第32-33页 |
| 3.3 网页文本内容特征抽取 | 第33-37页 |
| 3.3.1 网页文本内容特征词选择算法 | 第33-36页 |
| 3.3.2 网页文本内容特征词权重计算 | 第36-37页 |
| 本章小结 | 第37-38页 |
| 第4章 基于决策树的URL分类器构建 | 第38-46页 |
| 4.1 决策树分类算法研究 | 第38-41页 |
| 4.1.1 决策树模型 | 第38页 |
| 4.1.2 特征选择方法 | 第38-40页 |
| 4.1.3 决策树生成算法 | 第40-41页 |
| 4.2 URL分类器的构建 | 第41-45页 |
| 4.2.1 URL分类特征的选取 | 第41-44页 |
| 4.2.2 URL分类器模型训练 | 第44-45页 |
| 本章小结 | 第45-46页 |
| 第5章 主题爬虫系统设计与结果分析 | 第46-57页 |
| 5.1 主题爬虫系统平台搭建 | 第46-49页 |
| 5.1.1 系统的软硬件环境 | 第46-47页 |
| 5.1.2 Scrapy爬虫程序框架 | 第47-48页 |
| 5.1.3 NLTK自然语言处理程序库 | 第48-49页 |
| 5.2 主题爬虫的系统架构 | 第49-53页 |
| 5.2.1 种子URL的选取 | 第50页 |
| 5.2.2 主题特征向量的生成 | 第50-51页 |
| 5.2.3 网页的采集与分析 | 第51-52页 |
| 5.2.4 URL评价器设计 | 第52-53页 |
| 5.3 主题爬虫系统实验结果与分析 | 第53-56页 |
| 5.3.1 性能指标 | 第53-54页 |
| 5.3.2 结果分析 | 第54-56页 |
| 本章小结 | 第56-57页 |
| 结论与展望 | 第57-59页 |
| 致谢 | 第59-60页 |
| 参考文献 | 第60-63页 |
| 攻读学位期间获得的学术成果 | 第63页 |
