| 摘要 | 第1-5页 |
| Abstract | 第5-9页 |
| 第1章 绪论 | 第9-16页 |
| ·课题研究的目的和意义 | 第9-11页 |
| ·国内外研究现状及分析 | 第11-14页 |
| ·通用网络爬行器 | 第11-12页 |
| ·面向主题的网络爬行器 | 第12-13页 |
| ·分布式网络爬行器 | 第13-14页 |
| ·本文主要内容和组织 | 第14-16页 |
| 第2章 通用网络爬行器 | 第16-24页 |
| ·网络爬行器设计 | 第16-20页 |
| ·网络爬行器工作原理 | 第16页 |
| ·网络爬行器搜索策略 | 第16-19页 |
| ·网络爬行器主要技术问题 | 第19-20页 |
| ·网络爬行器具体实现 | 第20-23页 |
| ·待下载链接队列 | 第20-21页 |
| ·已访问链接列表 | 第21页 |
| ·获取网页 | 第21-22页 |
| ·解析网页 | 第22页 |
| ·链接地址的绝对化 | 第22-23页 |
| ·本章小结 | 第23-24页 |
| 第3章 面向主题的网络爬行器的设计与实现 | 第24-37页 |
| ·主题页面在Web上的分布特征 | 第25-26页 |
| ·Hub特征 | 第25页 |
| ·Linkage/Sibling Locality特征 | 第25-26页 |
| ·站点主题特征 | 第26页 |
| ·Tunnel特征 | 第26页 |
| ·主题的描述和定义 | 第26-27页 |
| ·面向主题的网络爬行器策略 | 第27-33页 |
| ·基于内容的爬行策略 | 第27-30页 |
| ·基于网络拓扑结构的爬行策略 | 第30-33页 |
| ·实验结果与分析 | 第33-36页 |
| ·本文爬行策略 | 第33-34页 |
| ·实验结果 | 第34-36页 |
| ·本章小结 | 第36-37页 |
| 第4章 面向Blog的网络爬行器 | 第37-46页 |
| ·Blog简介 | 第37-38页 |
| ·Blog网页爬行器的组成与设计 | 第38-39页 |
| ·Blog网页爬行器的实现策略 | 第39-44页 |
| ·Blog网页识别 | 第39-41页 |
| ·Blog网络爬行器实现 | 第41-42页 |
| ·Blog网页链接抽取 | 第42-44页 |
| ·用户界面交互 | 第44页 |
| ·实验结果与分析 | 第44-45页 |
| ·本章小结 | 第45-46页 |
| 第5章 网络爬行器的分布式设计 | 第46-56页 |
| ·多线程并行下载 | 第46-48页 |
| ·分布式网络爬行器的分类 | 第48-49页 |
| ·分布式网络爬行器的策略选择 | 第49-51页 |
| ·动态分配方式的策略选择 | 第49-51页 |
| ·静态分配方式的策略选择 | 第51页 |
| ·分布式的动态可配置性问题 | 第51-53页 |
| ·实验结果与分析 | 第53-55页 |
| ·本章小结 | 第55-56页 |
| 结论 | 第56-57页 |
| 参考文献 | 第57-60页 |
| 攻读学位期间发表的学术论文 | 第60-62页 |
| 致谢 | 第62页 |