基于Groovy的分布式网络爬虫系统的设计与实现
| 摘要 | 第1-7页 |
| Abstract | 第7-11页 |
| 第1章 绪论 | 第11-15页 |
| ·研究背景与意义 | 第11页 |
| ·国内外研究现状 | 第11-13页 |
| ·本论文研究内容及章节安排 | 第13-15页 |
| ·研究内容 | 第13-14页 |
| ·章节安排 | 第14-15页 |
| 第2章 相关技术基础 | 第15-20页 |
| ·网络爬虫系统简介 | 第15页 |
| ·主题页面分布特征 | 第15-16页 |
| ·HTTP通信协议 | 第16-18页 |
| ·HTTP协议简介 | 第16-17页 |
| ·HTTP请求方式 | 第17页 |
| ·HTTP响应状态 | 第17-18页 |
| ·脚本语言介绍 | 第18-19页 |
| ·本章小结 | 第19-20页 |
| 第3章 网络爬虫系统CTCS的需求分析 | 第20-24页 |
| ·项目概述 | 第20页 |
| ·系统目标及功能需求 | 第20-22页 |
| ·系统目标 | 第20页 |
| ·系统功能需求 | 第20-22页 |
| ·运行环境需求 | 第22-24页 |
| ·系统运行平台需求 | 第22-23页 |
| ·系统运行环境分析 | 第23-24页 |
| 第4章 网络爬虫系统CTCS的设计 | 第24-42页 |
| ·系统结构设计 | 第24-26页 |
| ·系统体系结构 | 第24-25页 |
| ·系统拓扑结构 | 第25-26页 |
| ·各子系统的模块划分与设计 | 第26-34页 |
| ·爬虫终端子系统 | 第26-29页 |
| ·调度中心子系统 | 第29-30页 |
| ·数据中心子系统 | 第30-32页 |
| ·日志及监控子系统 | 第32-34页 |
| ·各子系统内部工作流程 | 第34-40页 |
| ·爬虫终端子系统工作流程 | 第35-36页 |
| ·调度中心子系统工作流程 | 第36-38页 |
| ·数据中心子系统工作流程 | 第38-39页 |
| ·日志及监控子系统工作流程 | 第39-40页 |
| ·各子系统间通信接口设计 | 第40-41页 |
| ·本章小结 | 第41-42页 |
| 第5章 网络爬虫系统CTCS的详细设计与实现 | 第42-68页 |
| ·开发平台与工具 | 第42-43页 |
| ·爬虫终端子系统的实现 | 第43-53页 |
| ·HTTP通信模块的实现 | 第43-49页 |
| ·HTML解析模块的实现 | 第49页 |
| ·Groovy脚本驱动模块的实现 | 第49-50页 |
| ·多线程控制模块的实现 | 第50页 |
| ·XML构造解析模块的实现 | 第50-51页 |
| ·内部通信模块的实现 | 第51-52页 |
| ·系统日志模块的实现 | 第52-53页 |
| ·调度中心子系统的实现 | 第53-65页 |
| ·配置信息管理模块 | 第53页 |
| ·RMI交互模块 | 第53-64页 |
| ·任务负载平衡管理模块 | 第64-65页 |
| ·爬虫终端进程管理模块 | 第65页 |
| ·运行状态管理模块 | 第65页 |
| ·日志及监控子系统的实现 | 第65-67页 |
| ·日志Web接口模块的实现 | 第65-66页 |
| ·日志报告生成模块的实现 | 第66页 |
| ·预警监测模块的实现 | 第66-67页 |
| ·邮件处理模块的实现 | 第67页 |
| ·本章小结 | 第67-68页 |
| 第6章 系统运行及效果 | 第68-76页 |
| ·系统运行环境 | 第68页 |
| ·系统运行效果 | 第68-76页 |
| ·调度中心子系统的运行效果 | 第69-72页 |
| ·爬虫终端子系统的运行效果 | 第72-73页 |
| ·数据中心子系统的运行效果 | 第73-74页 |
| ·日志及监控子系统的运行效果 | 第74-76页 |
| 总结与展望 | 第76-78页 |
| 总结 | 第76页 |
| 工作展望 | 第76-78页 |
| 致谢 | 第78-79页 |
| 参考文献 | 第79-83页 |
| 攻读硕士学位期间发表的论文及科研成果 | 第83页 |
