基于Hadoop的视频爬虫系统的设计与实现
| 摘要 | 第4-5页 |
| Abstract | 第5页 |
| 1 引言 | 第8-14页 |
| 1.1 研究背景及意义 | 第8-9页 |
| 1.2 国内外研究现状 | 第9-11页 |
| 1.3 主要研究内容 | 第11-12页 |
| 1.4 本文组织结构 | 第12-14页 |
| 2 Hadoop 架构 | 第14-22页 |
| 2.1 Hadoop 架构的产生背景 | 第14页 |
| 2.2 Hadoop 的总体框架 | 第14-15页 |
| 2.3 Hadoop 的分布式计算模型 | 第15-18页 |
| 2.4 Hadoop 的分布式文件系统 | 第18-21页 |
| 2.5 本章小结 | 第21-22页 |
| 3 分布式爬虫关键技术 | 第22-29页 |
| 3.1 分布式平台系统结构 | 第22-25页 |
| 3.2 任务调度与负载均衡 | 第25-26页 |
| 3.3 爬行策略 | 第26-28页 |
| 3.4 更新策略 | 第28页 |
| 3.5 本章小结 | 第28-29页 |
| 4 系统设计与实现 | 第29-47页 |
| 4.1 视频爬虫平台架构设计 | 第29-32页 |
| 4.2 系统模块的 MapReduce 实现 | 第32-41页 |
| 4.3 视频解析模块的实现 | 第41-45页 |
| 4.4 本章小结 | 第45-47页 |
| 5 系统评测 | 第47-54页 |
| 5.1 系统功能测试 | 第47-51页 |
| 5.2 系统性能测试 | 第51-53页 |
| 5.3 本章小结 | 第53-54页 |
| 6 总结与展望 | 第54-56页 |
| 致谢 | 第56-57页 |
| 参考文献 | 第57-62页 |
| 附录 攻读学位期间的研究成果与参研项目 | 第62页 |
