Inar网络爬虫的设计与实现
摘要 | 第1-5页 |
Abstract | 第5-9页 |
第1章 绪论 | 第9-16页 |
·课题背景 | 第9页 |
·本课题研究的目的及意义 | 第9-10页 |
·搜索引擎发展的历史过程与发展现状 | 第10-13页 |
·搜索引擎的发展的历史 | 第10页 |
·搜索引擎的发展现状与趋势 | 第10-13页 |
·搜索引擎的分类与工作原理 | 第13-14页 |
·搜索引擎的分类 | 第13页 |
·搜索引擎的工作原理 | 第13-14页 |
·网络爬虫的发展现状 | 第14-15页 |
·本论文研究的主要内容 | 第15-16页 |
第2章 网络爬虫 | 第16-24页 |
·网络爬虫概述 | 第17-21页 |
·网络爬虫工作原理 | 第17-18页 |
·网络爬虫搜索策略 | 第18-20页 |
·漫游空间的划分 | 第20页 |
·网络爬虫主要技术问题 | 第20-21页 |
·网络爬虫的具体实现 | 第21-23页 |
·本章小结 | 第23-24页 |
第3章 Inar爬虫体系结构设计 | 第24-51页 |
·爬虫内部核心结构分析 | 第24-26页 |
·基本流程分析 | 第24-25页 |
·Inar 主要数据结构的表示 | 第25-26页 |
·Inar各部分功能设计与实现 | 第26-46页 |
·URL调度模块(URL Scheduler) | 第26-29页 |
·域名解析模块(DNS Resolver) | 第29-32页 |
·Connecting 模块 | 第32-37页 |
·异步I/O模块(Asyn I/O) | 第37-40页 |
·HTML分析模块 | 第40-43页 |
·Hash方法 | 第43-44页 |
·URL过滤模块(URL Filter) | 第44-46页 |
·Inar爬虫整体系统概况 | 第46-48页 |
·网页的更新 | 第48-50页 |
·发现爬虫与更新爬虫的内部结构分析 | 第48页 |
·网页更新策略 | 第48-50页 |
·本章小节 | 第50-51页 |
第4章 Inar 爬虫的数据分析 | 第51-54页 |
结论 | 第54-55页 |
参考文献 | 第55-58页 |
攻读学位期间发表的学术论文 | 第58-60页 |
致谢 | 第60页 |