微博爬虫的相关技术研究
摘要 | 第4-5页 |
ABSTRACT | 第5页 |
目录 | 第6-8页 |
第1章 绪论 | 第8-14页 |
1.1 课题研究背景 | 第8-9页 |
1.2 网络爬虫技术的研究现状 | 第9-11页 |
1.3 网络爬虫的相关技术概述 | 第11-12页 |
1.4 论文组织结构 | 第12-14页 |
第2章 微博爬虫的主要问题 | 第14-28页 |
2.1 HADOOP 分布式框架技术 | 第14-15页 |
2.1.1 HDFS 分布式文件系统 | 第14-15页 |
2.1.2 MapReduce 的并行计算框架 | 第15页 |
2.2 基于 HADOOP 的微博爬虫的组成 | 第15页 |
2.3 HBASE 分布式数据库 | 第15-17页 |
2.4 微博爬虫要解决的主要问题 | 第17-25页 |
2.4.1 微博数据的获取方式 | 第18-23页 |
2.4.2 微博数据的去重策略 | 第23页 |
2.4.3 微博数据的存储策略 | 第23-25页 |
2.5 实验和评测 | 第25-27页 |
2.6 本章小结 | 第27-28页 |
第3章 面向微博主题数据与个人数据的网络爬虫 | 第28-38页 |
3.1 微博主题爬虫的关键技术 | 第28页 |
3.2 微博主题爬虫的设计 | 第28-29页 |
3.3 微博主题爬虫的实现 | 第29-32页 |
3.4 微博个人数据的网络爬虫的设计与实现 | 第32-33页 |
3.5 微博主题爬虫的效率 | 第33-37页 |
3.6 本章小结 | 第37-38页 |
第4章 微博全网数据的网络爬虫 | 第38-50页 |
4.1 微博人物爬虫设计与技术 | 第38-42页 |
4.1.1 微博人物爬虫的框架技术 | 第39-40页 |
4.1.2 微博人物爬虫的爬行策略 | 第40-42页 |
4.2 微博人物爬虫的实现 | 第42-43页 |
4.3 微博内容爬虫设计与实现 | 第43-46页 |
4.4 相关实验与分析 | 第46-49页 |
4.5 本章小结 | 第49-50页 |
结论 | 第50-51页 |
参考文献 | 第51-55页 |
致谢 | 第55页 |