基于MapReduce框架的分布式网络爬行器研究
| 摘要 | 第1-6页 |
| Abstract | 第6-10页 |
| 第1章 绪论 | 第10-14页 |
| ·论文研究的背景 | 第10页 |
| ·国内外研究现状 | 第10-12页 |
| ·论文研究内容 | 第12页 |
| ·论文组织结构 | 第12-14页 |
| 第2章 分布式网络爬行器关键技术 | 第14-27页 |
| ·引言 | 第14页 |
| ·链接调度算法 | 第14-18页 |
| ·链接调度算法背景 | 第14-15页 |
| ·链接调度算法研究现状 | 第15-17页 |
| ·链接调度算法相关关键技术 | 第17-18页 |
| ·二级缓存算法 | 第18-23页 |
| ·二级缓存算法背景 | 第18-19页 |
| ·二级缓存算法研究现状 | 第19-21页 |
| ·二级缓存算法相关关键技术 | 第21-23页 |
| ·MapReduce编程框架 | 第23-26页 |
| ·MapReduce背景 | 第23页 |
| ·MapReduce研究现状 | 第23-24页 |
| ·MapReduce框架相关关键技术 | 第24-26页 |
| ·本章小结 | 第26-27页 |
| 第3章 动态哈希树算法研究 | 第27-39页 |
| ·引言 | 第27页 |
| ·问题的提出 | 第27页 |
| ·动态哈希树算法基本原理 | 第27-33页 |
| ·动态哈希树算法的条件 | 第27-30页 |
| ·动态哈希树算法的数学描述 | 第30-31页 |
| ·动态哈希树算法的实现 | 第31-33页 |
| ·MapReduce任务分割函数 | 第33-34页 |
| ·实验结果与分析 | 第34-38页 |
| ·实验步骤 | 第34-35页 |
| ·实验结果 | 第35-37页 |
| ·实验对比分析 | 第37-38页 |
| ·本章小结 | 第38-39页 |
| 第4章 基于Urltrie树的二级缓存算法研究 | 第39-49页 |
| ·引言 | 第39页 |
| ·问题的提出 | 第39页 |
| ·总体技术方案 | 第39-40页 |
| ·二级缓存算法方案 | 第40-45页 |
| ·改进UrlTrie树 | 第40-43页 |
| ·文件池 | 第43-45页 |
| ·实验结果与分析 | 第45-47页 |
| ·实验步骤 | 第45-46页 |
| ·实验结果 | 第46-47页 |
| ·实验对比分析 | 第47页 |
| ·本章小结 | 第47-49页 |
| 第5章 网络爬行器系统设计与实现 | 第49-67页 |
| ·引言 | 第49页 |
| ·系统主要功能与总体架构 | 第49-51页 |
| ·系统主要功能 | 第49-50页 |
| ·系统总体架构 | 第50-51页 |
| ·系统主要模块设计与接口 | 第51-62页 |
| ·系统模块汇总 | 第51-52页 |
| ·抓取调度模块接口 | 第52-55页 |
| ·链接存储模块接口 | 第55-56页 |
| ·页面分析模块接口 | 第56-58页 |
| ·MapReduce与多线程工作框架研究 | 第58-62页 |
| ·系统总体执行流程图 | 第62-63页 |
| ·系统测试与性能分析 | 第63-66页 |
| ·系统功能测试 | 第63-65页 |
| ·系统性能分析 | 第65-66页 |
| ·本章小结 | 第66-67页 |
| 结论 | 第67-68页 |
| 参考文献 | 第68-72页 |
| 攻读硕士学位期间发表的论文和取得的科研成果 | 第72-73页 |
| 致谢 | 第73页 |
