摘要 | 第5-6页 |
Abstract | 第6页 |
第1章 绪论 | 第12-18页 |
1.1 课题背景 | 第12-14页 |
1.2 研究目的 | 第14-15页 |
1.3 主要创新点 | 第15-16页 |
1.4 本文组织结构 | 第16-17页 |
1.5 本章小结 | 第17-18页 |
第2章 研究现状与相关技术 | 第18-32页 |
2.1 大规模日志存储与处理研究现状 | 第18-24页 |
2.1.1 国外研究应用现状 | 第18-19页 |
2.1.2 国内研究应用现状 | 第19-24页 |
2.2 国内外应用现状分析 | 第24-27页 |
2.3 相关技术介绍 | 第27-31页 |
2.3.1 Storm | 第27-29页 |
2.3.2 MongoDB | 第29-30页 |
2.3.3 HDFS | 第30-31页 |
2.4 本章小结 | 第31-32页 |
第3章 总体设计 | 第32-47页 |
3.1 系统功能 | 第32-33页 |
3.2 系统总体架构 | 第33-41页 |
3.2.1 分布式日志收集模块 | 第37页 |
3.2.2 消息发布--订阅模块 | 第37-38页 |
3.2.3 分布式实时计算模块 | 第38-39页 |
3.2.4 分布式存储模块 | 第39-40页 |
3.2.5 监控管理模块 | 第40-41页 |
3.3 日志数据实时分析流程 | 第41-43页 |
3.4 应用案例--分布式实时电子商务日志数据存储和处理架构 | 第43-46页 |
3.5 本章小结 | 第46-47页 |
第4章 基于Flume的分布式日志收集模块 | 第47-63页 |
4.1 模块整体架构 | 第47-49页 |
4.2 运行流程 | 第49-51页 |
4.3 Flume架构 | 第51-52页 |
4.4 通道扩展 | 第52-56页 |
4.4.1 并行通道--ParallelChannel | 第53-55页 |
4.4.2 空通道--NullChannel | 第55-56页 |
4.5 数据槽扩展 | 第56-61页 |
4.5.1 HDFS数据槽--HdfsSink | 第57-59页 |
4.5.2 kafka数据槽---KafkaSink | 第59-61页 |
4.6 实验分析 | 第61-62页 |
4.7 本章小结 | 第62-63页 |
第5章 基于节能负载均衡算法的任务调度模块 | 第63-80页 |
5.1 模块整体架构 | 第63-65页 |
5.2 运行流程 | 第65页 |
5.3 节能负载均衡算法 | 第65-76页 |
5.3.1 负载信息模块 | 第65-68页 |
5.3.2 负载监测模块 | 第68-71页 |
5.3.3 负载均衡模块 | 第71-76页 |
5.3.4 负载迁移模块 | 第76页 |
5.4 实验分析 | 第76-79页 |
5.5 本章小结 | 第79-80页 |
第6章 基于访问热度的节能高效分布式存储HDFS | 第80-90页 |
6.1 存储策略设计 | 第80-81页 |
6.2 详细设计 | 第81-86页 |
6.3 架构设计 | 第86-87页 |
6.4 实验分析 | 第87-89页 |
6.5 本章小结 | 第89-90页 |
第7章 总结与展望 | 第90-93页 |
7.1 工作总结 | 第90-91页 |
7.2 下一步工作 | 第91-93页 |
参考文献 | 第93-95页 |
攻读硕士学位期间主要的研究成果 | 第95-96页 |
致谢 | 第96页 |