金融信贷背景下分布式信息采集策略研究
| 摘要 | 第6-7页 |
| abstract | 第7-8页 |
| 第一章 绪论 | 第11-18页 |
| 1.1 研究背景 | 第11-12页 |
| 1.2 研究现状及存在问题 | 第12-15页 |
| 1.2.1 网络爬虫研究现状及问题 | 第12-13页 |
| 1.2.2 精准信息采集研究现状及问题 | 第13-15页 |
| 1.3 主要研究内容 | 第15-16页 |
| 1.4 论文结构安排 | 第16-18页 |
| 第二章 相关技术基础 | 第18-29页 |
| 2.1 引言 | 第18页 |
| 2.2 网络爬虫工作原理 | 第18-25页 |
| 2.2.1 网络爬虫基本结构 | 第18-20页 |
| 2.2.2 网络爬虫分类 | 第20-23页 |
| 2.2.3 增量爬取策略简介 | 第23页 |
| 2.2.4 常见网络爬虫简介 | 第23-25页 |
| 2.3 多线程下载技术 | 第25-26页 |
| 2.3.1 多线程下载必要性 | 第25-26页 |
| 2.3.2 多线程下载引起问题与解决方法 | 第26页 |
| 2.4 网页分析 | 第26-28页 |
| 2.4.1 HTTP协议简介 | 第27页 |
| 2.4.2 页面链接的提取 | 第27-28页 |
| 2.5 本章小结 | 第28-29页 |
| 第三章 通用型分布式爬虫关键技术 | 第29-57页 |
| 3.1 引言 | 第29页 |
| 3.2 爬虫总体结构设计 | 第29-33页 |
| 3.2.1 爬虫体系结构简介 | 第29-31页 |
| 3.2.2 改进的体系结构 | 第31-33页 |
| 3.3 各功能模块详解 | 第33-50页 |
| 3.3.1 控制器模块设计 | 第34-43页 |
| 3.3.2 爬虫器模拟设计 | 第43-46页 |
| 3.3.3 代理器模块设计 | 第46-47页 |
| 3.3.4 通信模块设计 | 第47-50页 |
| 3.4 异常处理机制 | 第50-52页 |
| 3.5 系统评测 | 第52-56页 |
| 3.5.1 布隆过滤器实验分析 | 第52-55页 |
| 3.5.2 分布式爬虫实验分析 | 第55-56页 |
| 3.6 本章小结 | 第56-57页 |
| 第四章 精准信息采集关键技术 | 第57-70页 |
| 4.1 引言 | 第57页 |
| 4.2 数据源 | 第57-61页 |
| 4.2.1 数据源简介 | 第57-59页 |
| 4.2.2 数据源分类 | 第59-61页 |
| 4.2.3 目标数据源 | 第61页 |
| 4.3 有效链接获取 | 第61-66页 |
| 4.3.1 基于特征选择的策略 | 第62-64页 |
| 4.3.2 基于前后页相关的策略 | 第64-65页 |
| 4.3.3 有效链接获取策略 | 第65-66页 |
| 4.4 采集效果评测 | 第66-69页 |
| 4.5 本章小结 | 第69-70页 |
| 第五章 总结与展望 | 第70-72页 |
| 5.1 本文工作总结 | 第70-71页 |
| 5.2 进一步工作 | 第71-72页 |
| 参考文献 | 第72-75页 |
| 致谢 | 第75-76页 |
| 附录 | 第76-77页 |
