摘要 | 第4-5页 |
ABSTRACT | 第5-6页 |
第一章 绪论 | 第9-13页 |
1.1 研究背景 | 第9-10页 |
1.2 国内外研究现状 | 第10-11页 |
1.2.1 微博大数据挖掘研究现状 | 第10-11页 |
1.2.2 Storm实时调度研究现状 | 第11页 |
1.3 研究内容 | 第11-12页 |
1.4 论文的组织结构 | 第12-13页 |
第二章 相关研究工作 | 第13-23页 |
2.1 STORM简介 | 第13-18页 |
2.1.1 Storm组件 | 第13-15页 |
2.1.2 Storm的数据流 | 第15页 |
2.1.3 Storm的并发机制 | 第15-16页 |
2.1.4 Storm Trident | 第16-17页 |
2.1.5 Storm与Hadoop的比较 | 第17-18页 |
2.2 KAFKA | 第18-19页 |
2.3 HBASE | 第19-20页 |
2.4 K-MEANS | 第20-23页 |
第三章 STORM调度策略的优化 | 第23-37页 |
3.1 STORM默认的调度模型 | 第23-25页 |
3.2 验证默认调度模型所存在的问题 | 第25-28页 |
3.2.1 T-1过程 | 第26-27页 |
3.2.2 T-2过程 | 第27页 |
3.2.3 T-3过程 | 第27-28页 |
3.2.4 默认调度模型问题 | 第28页 |
3.3 STORM调度模型的优化 | 第28-36页 |
3.3.1 算法优化的思想 | 第29-30页 |
3.3.2 基于CPU/IO权值的自适应调度算法实现过程 | 第30-33页 |
3.3.3 实验验证及分析 | 第33-36页 |
3.4 本章小结 | 第36-37页 |
第四章 微博用户潜在需求实时分析系统的设计和实现 | 第37-55页 |
4.1 整体设计方案 | 第37-39页 |
4.2 数据来源模块 | 第39-44页 |
4.3 数据接入模块 | 第44-45页 |
4.4 数据实时分析模块和数据存储和展示模块 | 第45-53页 |
4.4.1 KafkaSpout模块 | 第47-49页 |
4.4.2 InitBolt模块 | 第49-51页 |
4.4.3 AnalysisBolt模块 | 第51页 |
4.4.4 WriteDBBolt模块和WebBolt模块 | 第51-52页 |
4.4.5 Topology的组装 | 第52-53页 |
4.5 本章小结 | 第53-55页 |
第五章 系统部署与展示 | 第55-65页 |
5.1 系统环境 | 第55-56页 |
5.2 系统部署 | 第56-57页 |
5.3 各模块运行结果的展示 | 第57-63页 |
5.3.1 引进改进后调度算法及实验对比 | 第57-58页 |
5.3.2 数据获取模块运行结果的展示和实时性展示 | 第58-59页 |
5.3.3 数据接入模块的引入和传递的流数据格式 | 第59-60页 |
5.3.4 数据分析模块结果展示 | 第60-62页 |
5.3.5 系统实时性分析 | 第62-63页 |
5.4 本章小结 | 第63-65页 |
第六章 总结与展望 | 第65-67页 |
6.1 工作总结 | 第65-66页 |
6.2 问题和展望 | 第66-67页 |
参考文献 | 第67-69页 |
致谢 | 第69-71页 |
攻读学位期间发表的学术论文 | 第71页 |