网络爬虫性能提升与功能拓展的研究与实现
| 摘要 | 第1-5页 |
| Abstract | 第5-8页 |
| 第1章 绪论 | 第8-14页 |
| ·文献综述 | 第8-12页 |
| ·因特网与搜索引擎 | 第8-9页 |
| ·网络爬虫 | 第9页 |
| ·网络爬虫分类 | 第9-10页 |
| ·国内外研究现状 | 第10-12页 |
| ·课题研究的主要内容与意义 | 第12页 |
| ·论文的组织结构 | 第12-14页 |
| 第2章 网络爬虫模型 | 第14-17页 |
| ·网络爬虫原理 | 第14-15页 |
| ·网络爬虫主要性能评价指标分析 | 第15-17页 |
| 第3章 网络爬虫性能提升策略分析 | 第17-26页 |
| ·页面下载 | 第17-20页 |
| ·Gzip/deflate压缩编码传输 | 第17-18页 |
| ·异步非阻塞下载 | 第18-20页 |
| ·URL相关策略 | 第20-26页 |
| ·URL搜索策略 | 第21页 |
| ·URL提取策略 | 第21-23页 |
| ·URL规范策略 | 第23-24页 |
| ·URL去重策略 | 第24-26页 |
| 4 网络爬虫功能拓展策略分析 | 第26-31页 |
| ·相关技术介绍 | 第26-27页 |
| ·HTML DOM | 第26-27页 |
| ·XPath技术 | 第27页 |
| ·拓展策略分析 | 第27-31页 |
| ·网站性能分析 | 第27-29页 |
| ·自动化测试工具 | 第29-30页 |
| ·特定数据提取 | 第30-31页 |
| 第5章 网络爬虫系统的设计 | 第31-53页 |
| ·总体设计 | 第31-32页 |
| ·模块设计 | 第32-53页 |
| ·系统配置模块 | 第32-35页 |
| ·URL管理模块 | 第35-40页 |
| ·数据收集模块 | 第40-43页 |
| ·数据分析模块 | 第43-48页 |
| ·文件存储模块 | 第48-50页 |
| ·线程调度模块 | 第50-53页 |
| 第6章 网络爬虫系统的实现 | 第53-60页 |
| ·交互界面的实现 | 第53-54页 |
| ·功能实验 | 第54-60页 |
| ·页面数据下载 | 第55-57页 |
| ·页面性能分析 | 第57-58页 |
| ·自动化测试 | 第58-59页 |
| ·特定数据提取 | 第59-60页 |
| 第7章 结论 | 第60-61页 |
| 参考文献 | 第61-63页 |
| 作者简介及在学期间所取得的科研成果 | 第63-64页 |
| 致谢 | 第64页 |
