分布式数据采集分析系统的设计与实现
| 摘要 | 第6-7页 |
| ABSTRACT | 第7-8页 |
| 符号对照表 | 第12-13页 |
| 缩略语对照表 | 第13-16页 |
| 第一章 绪论 | 第16-20页 |
| 1.1 课题背景 | 第16-17页 |
| 1.2 国内外相关技术研究现状 | 第17页 |
| 1.3 论文研究内容 | 第17-18页 |
| 1.4 论文章节安排 | 第18-20页 |
| 第二章 相关技术与理论基础 | 第20-28页 |
| 2.1 分布式数据采集系统 | 第20-23页 |
| 2.1.1 Storm分布式框架 | 第20-21页 |
| 2.1.2 HTTP协议 | 第21-22页 |
| 2.1.3 正则表达式 | 第22页 |
| 2.1.4 PhantomJS | 第22-23页 |
| 2.2 分布式数据分析展示系统 | 第23-26页 |
| 2.2.1 Hadoop分布式框架 | 第23页 |
| 2.2.2 NoSQL型数据库 | 第23-24页 |
| 2.2.3 中文分词 | 第24-25页 |
| 2.2.4 贝叶斯分类理论 | 第25-26页 |
| 2.2.5 ELK数据可视化 | 第26页 |
| 2.3 小结 | 第26-28页 |
| 第三章 分布式数据采集分析系统概要设计 | 第28-36页 |
| 3.1 设计需求 | 第28-29页 |
| 3.1.1 设计场景 | 第28页 |
| 3.1.2 功能需求 | 第28-29页 |
| 3.1.3 性能需求 | 第29页 |
| 3.2 整体架构设计 | 第29-31页 |
| 3.3 数据采集系统设计 | 第31-33页 |
| 3.4 数据分析展示系统设计 | 第33-35页 |
| 3.5 小结 | 第35-36页 |
| 第四章 分布式数据采集分析系统详细设计与实现 | 第36-58页 |
| 4.1 分布式数据采集系统的详细设计与实现 | 第36-52页 |
| 4.1.1 配置界面 | 第36-40页 |
| 4.1.2 URL构建模块 | 第40-41页 |
| 4.1.3 反爬策略调度模块 | 第41-47页 |
| 4.1.4 数据的标记与解析 | 第47-50页 |
| 4.1.5 数据格式化 | 第50-52页 |
| 4.2 数据分析展示系统详细设计 | 第52-57页 |
| 4.2.1 中文分词 | 第52-53页 |
| 4.2.2 文本关联分析 | 第53-56页 |
| 4.2.3 ELK数据可视化 | 第56-57页 |
| 4.3 小结 | 第57-58页 |
| 第五章 系统测试 | 第58-68页 |
| 5.1 测试环境搭建 | 第58-59页 |
| 5.2 功能测试与分析 | 第59-67页 |
| 5.2.1 数据采集系统功能测试 | 第59-64页 |
| 5.2.2 数据分析系统功能测试 | 第64-67页 |
| 5.3 小结 | 第67-68页 |
| 第六章 总结与展望 | 第68-70页 |
| 6.1 总结 | 第68页 |
| 6.2 展望 | 第68-70页 |
| 参考文献 | 第70-72页 |
| 致谢 | 第72-74页 |
| 作者简介 | 第74-75页 |
