Inar网络爬虫的设计与实现
| 摘要 | 第1-5页 |
| Abstract | 第5-9页 |
| 第1章 绪论 | 第9-16页 |
| ·课题背景 | 第9页 |
| ·本课题研究的目的及意义 | 第9-10页 |
| ·搜索引擎发展的历史过程与发展现状 | 第10-13页 |
| ·搜索引擎的发展的历史 | 第10页 |
| ·搜索引擎的发展现状与趋势 | 第10-13页 |
| ·搜索引擎的分类与工作原理 | 第13-14页 |
| ·搜索引擎的分类 | 第13页 |
| ·搜索引擎的工作原理 | 第13-14页 |
| ·网络爬虫的发展现状 | 第14-15页 |
| ·本论文研究的主要内容 | 第15-16页 |
| 第2章 网络爬虫 | 第16-24页 |
| ·网络爬虫概述 | 第17-21页 |
| ·网络爬虫工作原理 | 第17-18页 |
| ·网络爬虫搜索策略 | 第18-20页 |
| ·漫游空间的划分 | 第20页 |
| ·网络爬虫主要技术问题 | 第20-21页 |
| ·网络爬虫的具体实现 | 第21-23页 |
| ·本章小结 | 第23-24页 |
| 第3章 Inar爬虫体系结构设计 | 第24-51页 |
| ·爬虫内部核心结构分析 | 第24-26页 |
| ·基本流程分析 | 第24-25页 |
| ·Inar 主要数据结构的表示 | 第25-26页 |
| ·Inar各部分功能设计与实现 | 第26-46页 |
| ·URL调度模块(URL Scheduler) | 第26-29页 |
| ·域名解析模块(DNS Resolver) | 第29-32页 |
| ·Connecting 模块 | 第32-37页 |
| ·异步I/O模块(Asyn I/O) | 第37-40页 |
| ·HTML分析模块 | 第40-43页 |
| ·Hash方法 | 第43-44页 |
| ·URL过滤模块(URL Filter) | 第44-46页 |
| ·Inar爬虫整体系统概况 | 第46-48页 |
| ·网页的更新 | 第48-50页 |
| ·发现爬虫与更新爬虫的内部结构分析 | 第48页 |
| ·网页更新策略 | 第48-50页 |
| ·本章小节 | 第50-51页 |
| 第4章 Inar 爬虫的数据分析 | 第51-54页 |
| 结论 | 第54-55页 |
| 参考文献 | 第55-58页 |
| 攻读学位期间发表的学术论文 | 第58-60页 |
| 致谢 | 第60页 |