基于HDFS的微博数据管理系统的设计与实现
摘要 | 第5-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-17页 |
1.1 课题研究的背景和来源 | 第10-11页 |
1.2 国内外研究动态 | 第11-14页 |
1.3 课题研究成果应用的实际意义 | 第14-15页 |
1.4 本文的内容 | 第15-17页 |
第二章 需求分析 | 第17-33页 |
2.1 系统目标 | 第17页 |
2.2 对系统的要求 | 第17-18页 |
2.2.1 系统开发环境 | 第17-18页 |
2.2.2 系统运行环境 | 第18页 |
2.3 功能性需求分析 | 第18-24页 |
2.3.1 微博数据抓取 | 第18-19页 |
2.3.2 微博数据预处理 | 第19-21页 |
2.3.3 微博数据存储 | 第21页 |
2.3.4 微博数据索引 | 第21-22页 |
2.3.5 微博数据排序 | 第22-23页 |
2.3.6 微博数据检索 | 第23页 |
2.3.7 需求分析最终结论 | 第23-24页 |
2.4 系统术语表 | 第24页 |
2.5 关键技术 | 第24-31页 |
2.5.1 微博Crawler | 第24-25页 |
2.5.2 中文分词工具 | 第25-26页 |
2.5.3 分布式存储 | 第26-28页 |
2.5.4 排序算法 | 第28-31页 |
2.6 本章小结 | 第31-33页 |
第三章 系统设计 | 第33-48页 |
3.1 系统总体设计 | 第33页 |
3.2 微博Crawler设计 | 第33-35页 |
3.3 微博预处理设计 | 第35-42页 |
3.3.1 微博格式调整 | 第39页 |
3.3.2 微博内容字段筛选 | 第39-40页 |
3.3.3 转发的微博内容提取 | 第40-41页 |
3.3.4 微博去重 | 第41-42页 |
3.4 微博存储设计 | 第42页 |
3.5 微博索引设计 | 第42-44页 |
3.6 微博排序设计 | 第44-45页 |
3.7 微博检索设计 | 第45-47页 |
3.8 本章小结 | 第47-48页 |
第四章 系统实现 | 第48-58页 |
4.1 微博Crawler实现 | 第48页 |
4.2 微博预处理实现 | 第48-51页 |
4.2.1 微博格式调整 | 第48-49页 |
4.2.2 微博内容字段筛选 | 第49-50页 |
4.2.3 转发的微博内容提取 | 第50页 |
4.2.4 微博去重 | 第50-51页 |
4.3 微博存储实现 | 第51-52页 |
4.4 微博索引实现 | 第52-53页 |
4.5 微博排序实现 | 第53-54页 |
4.6 微博检索实现 | 第54-56页 |
4.7 本章小结 | 第56-58页 |
第五章 系统调试 | 第58-64页 |
5.1 调试目的 | 第58页 |
5.2 调试方法 | 第58页 |
5.3 单元调试 | 第58-60页 |
5.4 系统调试 | 第60-61页 |
5.5 系统测试及性能分析 | 第61-62页 |
5.6 本章小结 | 第62-64页 |
第六章 结论 | 第64-66页 |
6.1 本文工作总结 | 第64-65页 |
6.2 进一步展望 | 第65-66页 |
致谢 | 第66-67页 |
参考文献 | 第67-70页 |