摘要 | 第4-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-16页 |
1.1 研究背景 | 第10-11页 |
1.2 网络爬虫国内外研究现状 | 第11-13页 |
1.3 研究内容及章节安排 | 第13-16页 |
1.3.1 研究内容 | 第13-14页 |
1.3.2 章节安排 | 第14-16页 |
第二章 搜索爬虫系统关键技术 | 第16-26页 |
2.1 搜索爬虫系统相关知识 | 第16-19页 |
2.1.1 搜索爬虫系统介绍 | 第16-17页 |
2.1.2 网络爬虫总体结构 | 第17-18页 |
2.1.3 网络爬虫类别 | 第18-19页 |
2.2 分布式任务分配策略 | 第19页 |
2.3 含有JS页面的爬取方法 | 第19-22页 |
2.4 网页更新策略 | 第22-23页 |
2.5 生产网和办公网通信以及rabbitmq消息队列服务器 | 第23-25页 |
2.6 本章小结 | 第25-26页 |
第三章 分布式手机软件应用搜索爬虫系统设计 | 第26-40页 |
3.1 系统设计需求 | 第26-27页 |
3.2 系统总体结构 | 第27-28页 |
3.3 控制管理服务器的设计 | 第28页 |
3.4 爬虫服务器的设计 | 第28-37页 |
3.4.1 通信模块 | 第29-30页 |
3.4.2 网络爬虫模块 | 第30-37页 |
3.5 检索服务器的设计 | 第37页 |
3.6 数据库设计 | 第37-38页 |
3.7 下载和上传模块设计 | 第38-39页 |
3.8 本章小结 | 第39-40页 |
第四章 分布式手机软件APP搜索爬虫系统实现 | 第40-57页 |
4.1 控制管理服务器的实现 | 第40-41页 |
4.2 爬虫服务器的实现 | 第41-54页 |
4.2.1 通信模块的实现 | 第42页 |
4.2.2 网络爬虫模块的实现 | 第42-54页 |
4.3 下载上传模块实现 | 第54-56页 |
4.4 本章小结 | 第56-57页 |
第五章 系统运行与性能分析 | 第57-67页 |
5.1 系统运行环境 | 第57页 |
5.2 系统运行结果 | 第57-63页 |
5.3 系统性能分析 | 第63-65页 |
5.4 本章小结 | 第65-67页 |
总结与展望 | 第67-68页 |
参考文献 | 第68-70页 |
致谢 | 第70-71页 |
攻读学位期间发表的学术论文目录 | 第71页 |