分布式网络信息采集系统的设计与实现
| 摘要 | 第1-6页 |
| Abstract | 第6-10页 |
| 第一章 绪论 | 第10-17页 |
| ·研究背景和意义 | 第10-12页 |
| ·国内外研究现状 | 第12-13页 |
| ·网络信息采集系统现状 | 第13-15页 |
| ·主要研究工作和内容 | 第15-16页 |
| ·论文组织结构 | 第16-17页 |
| 第二章 相关理论知识 | 第17-35页 |
| ·搜索引擎相关理论 | 第17-19页 |
| ·搜索引擎简介 | 第17-18页 |
| ·搜索引擎的工作原理 | 第18-19页 |
| ·信息采集系统基本原理 | 第19-24页 |
| ·超文本传输协议 | 第19-21页 |
| ·网页的下载 | 第21-23页 |
| ·网页的解析 | 第23页 |
| ·信息采集系统工作原理 | 第23-24页 |
| ·信息采集系统核心技术 | 第24-29页 |
| ·网页采集策略 | 第24-25页 |
| ·网页去重策略 | 第25-26页 |
| ·礼貌采集策略 | 第26-28页 |
| ·网页更新策略 | 第28-29页 |
| ·分布式计算技术 | 第29-34页 |
| ·集群系统 | 第29-31页 |
| ·分布式实现方法介绍 | 第31-34页 |
| ·本章小结 | 第34-35页 |
| 第三章 分布式网络信息采集系统总体设计 | 第35-44页 |
| ·系统设计目标 | 第35页 |
| ·系统概要设计 | 第35-39页 |
| ·系统拓扑结构 | 第35-38页 |
| ·系统体系结构 | 第38-39页 |
| ·系统工作流程及模块化设计 | 第39-42页 |
| ·系统工作流程设计 | 第39-41页 |
| ·系统模块化设计 | 第41-42页 |
| ·系统数据存储设计 | 第42-43页 |
| ·本章小结 | 第43-44页 |
| 第四章 系统详细设计与实现 | 第44-68页 |
| ·信息采集部分 | 第44-54页 |
| ·种子URL 注入模块的实现 | 第44-46页 |
| ·Fetchlist 生成模块的实现 | 第46-48页 |
| ·网页采集模块的实现 | 第48-50页 |
| ·网页解析模块的实现 | 第50-52页 |
| ·URL 更新模块的实现 | 第52-54页 |
| ·RMI 通信控制部分 | 第54-61页 |
| ·RMI 通信控制模块设计 | 第54-56页 |
| ·RMI 实现过程 | 第56-57页 |
| ·RMI 通信控制模块实现 | 第57-61页 |
| ·监控服务部分 | 第61-64页 |
| ·Web 服务架构 | 第61-63页 |
| ·监控服务模块实现 | 第63-64页 |
| ·系统运行界面 | 第64-67页 |
| ·启动系统 | 第64-65页 |
| ·开始采集任务 | 第65-66页 |
| ·Web 监控 | 第66-67页 |
| ·本章小结 | 第67-68页 |
| 第五章 系统性能测试 | 第68-75页 |
| ·实验目的 | 第68页 |
| ·实验环境 | 第68页 |
| ·实验设计及结果分析 | 第68-74页 |
| ·任务粒度测试 | 第68-70页 |
| ·采集性能测试 | 第70-71页 |
| ·任务负载均衡测试 | 第71-73页 |
| ·可扩展性测试 | 第73-74页 |
| ·本章小结 | 第74-75页 |
| 总结与展望 | 第75-76页 |
| 参考文献 | 第76-79页 |
| 致谢 | 第79页 |
