摘要 | 第4-5页 |
ABSTRACT | 第5-6页 |
缩写 | 第9-10页 |
第一章 绪论 | 第10-16页 |
1.1 研究背景和意义 | 第10-11页 |
1.2 搜索引擎概述 | 第11-14页 |
1.2.1 搜索引擎概念 | 第11页 |
1.2.2 搜索引擎基本结构 | 第11-12页 |
1.2.3 搜索引擎分类 | 第12-13页 |
1.2.4 通用搜索引擎的不足 | 第13-14页 |
1.2.5 垂直搜索引擎 | 第14页 |
1.3 研究内容与组织结构 | 第14-16页 |
第二章 网络爬虫基础 | 第16-25页 |
2.1 网络爬虫概念 | 第16页 |
2.2 网络爬虫研究现状 | 第16-17页 |
2.3 通用网络爬虫 | 第17-20页 |
2.3.1 通用网络爬虫概念 | 第17-18页 |
2.3.2 通用网络爬虫工作流程 | 第18-19页 |
2.3.3 通用网络爬虫结构 | 第19-20页 |
2.4 主题网络爬虫 | 第20-24页 |
2.4.1 主题网络爬虫概念 | 第20-21页 |
2.4.2 主题网络爬虫工作流程 | 第21-22页 |
2.4.3 主题网络爬虫结构 | 第22页 |
2.4.4 主题网络爬虫的问题和目标 | 第22-24页 |
2.5 本章小结 | 第24-25页 |
第三章 基于遗传算法的搜索策略 | 第25-36页 |
3.1 主题搜索策略 | 第25-29页 |
3.1.1 基于内容评价的搜索策略 | 第25-27页 |
3.1.2 基于链接关系的搜索策略 | 第27-29页 |
3.2 遗传算法 | 第29-30页 |
3.3 基于遗传算法的主题搜索策略 | 第30-32页 |
3.4 遗传算子设计 | 第32-35页 |
3.4.1 适应度函数 | 第33页 |
3.4.2 选择操作 | 第33-34页 |
3.4.3 交叉操作 | 第34页 |
3.4.4 变异操作 | 第34页 |
3.4.5 迭代终止条件 | 第34-35页 |
3.5 本章小结 | 第35-36页 |
第四章 主题网络爬虫的设计 | 第36-48页 |
4.1 主题网络爬虫基本问题 | 第36-39页 |
4.1.1 主题描述 | 第36-37页 |
4.1.2 网页主题相关度计算 | 第37-38页 |
4.1.3 链接价值计算 | 第38-39页 |
4.2 主题网络爬虫详细设计 | 第39-46页 |
4.2.1 主要数据结构 | 第40-41页 |
4.2.2 页面下载模块 | 第41-42页 |
4.2.3 HTML解析模块 | 第42-43页 |
4.2.4 页面分析模块 | 第43-45页 |
4.2.5 遗传算法种群生成模块 | 第45-46页 |
4.3 本章小结 | 第46-48页 |
第五章 主题网络爬虫的应用实现 | 第48-54页 |
5.1 Security Data Collector系统 | 第48-49页 |
5.2 主题网络爬虫模块实现及对比分析 | 第49-52页 |
5.2.1 主题网络爬虫模块实现 | 第49-50页 |
5.2.2 性能指标 | 第50-51页 |
5.2.3 结果分析 | 第51-52页 |
5.3 本章小结 | 第52-54页 |
第六章 总结与展望 | 第54-56页 |
参考文献 | 第56-59页 |
致谢 | 第59-60页 |
攻读学位期间发表或已录用的学术论文 | 第60页 |