基于SPARK的论坛数据分析平台的设计与实现
| 摘要 | 第4-5页 |
| ABSTRACT | 第5-6页 |
| 第一章 绪论 | 第9-12页 |
| 1.1 研究背景与意义 | 第9-10页 |
| 1.2 国内外研究现状 | 第10页 |
| 1.3 研究目标与工作 | 第10-11页 |
| 1.4 论文的结构 | 第11页 |
| 1.5 本章小结 | 第11-12页 |
| 第二章 系统的需求分析 | 第12-15页 |
| 2.1 系统的需求概述 | 第12页 |
| 2.2 系统的功能需求 | 第12-14页 |
| 2.2.1 数据采集 | 第12-13页 |
| 2.2.2 数据统计 | 第13页 |
| 2.2.3 对外接口 | 第13-14页 |
| 2.3 系统的非功能需求 | 第14页 |
| 2.3.1 采集覆盖率 | 第14页 |
| 2.3.2 运算效率 | 第14页 |
| 2.3.3 并发性 | 第14页 |
| 2.4 本章小结 | 第14-15页 |
| 第三章 系统的总体设计 | 第15-27页 |
| 3.1 技术背景介绍 | 第15-21页 |
| 3.1.1 论坛与相关术语 | 第15页 |
| 3.1.2 网络爬虫与信息抽取 | 第15-17页 |
| 3.1.3 HDFS与Spark | 第17-19页 |
| 3.1.4 TDT话题检测 | 第19-20页 |
| 3.1.5 Actor消息模型 | 第20-21页 |
| 3.2 总体设计 | 第21-22页 |
| 3.3 数据采集模块 | 第22-23页 |
| 3.4 数据统计模块 | 第23-25页 |
| 3.5 对外接口模块 | 第25页 |
| 3.6 本章小结 | 第25-27页 |
| 第四章 系统的详细设计与实现 | 第27-55页 |
| 4.1 数据采集模块 | 第27-38页 |
| 4.1.1 模块功能概述 | 第27页 |
| 4.1.2 Heritrix网络爬虫 | 第27-31页 |
| 4.1.3 信息抽取 | 第31-33页 |
| 4.1.4 数据写入 | 第33-36页 |
| 4.1.5 数据表结构 | 第36-38页 |
| 4.2 Spark数据统计模块 | 第38-52页 |
| 4.2.1 模块功能概述 | 第38页 |
| 4.2.2 帖子话题提取 | 第38-42页 |
| 4.2.3 Spark数据统计任务设计 | 第42-45页 |
| 4.2.4 RDD操作优化 | 第45-48页 |
| 4.2.5 数据表结构 | 第48-52页 |
| 4.3 对外接口模块 | 第52-54页 |
| 4.3.1 模块功能概述 | 第52页 |
| 4.3.2 Actor消息模型的实现 | 第52-54页 |
| 4.4 本章小结 | 第54-55页 |
| 第五章 系统部署与测试 | 第55-66页 |
| 5.1 系统部署 | 第55-56页 |
| 5.1.1 硬件环境 | 第55-56页 |
| 5.1.2 软件环境 | 第56页 |
| 5.2 系统功能测试 | 第56-63页 |
| 5.2.1 数据采集模块功能测试 | 第56-58页 |
| 5.2.2 数据统计模块功能测试 | 第58-60页 |
| 5.2.3 对外接口模块功能测试 | 第60-62页 |
| 5.2.4 部分功能测试截图 | 第62-63页 |
| 5.3 系统性能测试 | 第63-65页 |
| 5.4 本章小结 | 第65-66页 |
| 第六章 总结与展望 | 第66-68页 |
| 6.1 论文工作总结 | 第66-67页 |
| 6.2 下一步工作计划 | 第67-68页 |
| 参考文献 | 第68-69页 |
| 致谢 | 第69页 |
