基于Ganglia的Hadoop集群监视系统研究与实现
摘要 | 第5-6页 |
ABSTRACT | 第6-7页 |
符号对照表 | 第12-13页 |
缩略语对照表 | 第13-17页 |
第一章 绪论 | 第17-21页 |
1.1 研究背景 | 第17页 |
1.2 国内外研究现状 | 第17-18页 |
1.3 研究目的与意义 | 第18-19页 |
1.4 论文主要内容与结构 | 第19-21页 |
第二章 相关理论与技术 | 第21-35页 |
2.1 Hadoop平台 | 第21-24页 |
2.1.1 HDFS | 第21-22页 |
2.1.2 Map Reduce | 第22-23页 |
2.1.3 HBase | 第23-24页 |
2.2 开源监控框架 | 第24-27页 |
2.2.1 Ganglia | 第24-26页 |
2.2.2 Nagios | 第26-27页 |
2.3 ETL数据仓库技术 | 第27-29页 |
2.4 Java Web技术概述 | 第29-32页 |
2.4.1 Spring MVC | 第29-31页 |
2.4.2 Mybatis | 第31-32页 |
2.5 置信区间 | 第32-33页 |
2.6 小结 | 第33-35页 |
第三章 系统需求分析与总体设计 | 第35-49页 |
3.1 集群监控指标分析 | 第35-38页 |
3.1.1 硬件性能指标 | 第35-36页 |
3.1.2 Hadoop平台指标 | 第36-38页 |
3.2 功能需求分析 | 第38-44页 |
3.2.1 指标数据与日志信息展示 | 第38-39页 |
3.2.2 监控数据持久化存储 | 第39-41页 |
3.2.3 阈值告警机制 | 第41-43页 |
3.2.4 系统权限机制 | 第43-44页 |
3.3 系统总体设计 | 第44-47页 |
3.4 关键技术与难点 | 第47页 |
3.5 小结 | 第47-49页 |
第四章 集群监控系统的设计与实现 | 第49-93页 |
4.1 数据库设计 | 第49-57页 |
4.1.1 逻辑概念设计 | 第49-50页 |
4.1.2 表结构设计 | 第50-57页 |
4.2 ETL设计与开发 | 第57-73页 |
4.2.1 静态数据预处理阶段 | 第58-60页 |
4.2.2 静态数据持久化存储阶段 | 第60-62页 |
4.2.3 指标监控数据预处理阶段 | 第62-63页 |
4.2.4 指标监控数据持久化阶段 | 第63-66页 |
4.2.5 历史监控数据压缩阶段 | 第66-71页 |
4.2.6 监控数据统计分析阶段 | 第71-73页 |
4.3 Java Web系统设计与实现 | 第73-89页 |
4.3.1 系统权限模块 | 第73-76页 |
4.3.2 数据展示模块 | 第76-80页 |
4.3.3 持久化存储模块 | 第80-83页 |
4.3.4 阈值告警模块 | 第83-89页 |
4.4 阈值计算方案 | 第89-91页 |
4.5 小结 | 第91-93页 |
第五章 监控系统测试 | 第93-117页 |
5.1 测试环境 | 第93-94页 |
5.2 模块测试 | 第94-115页 |
5.2.1 ETL过程测试 | 第94-98页 |
5.2.2 系统权限模块测试 | 第98-101页 |
5.2.3 数据展示模块测试 | 第101-107页 |
5.2.4 数据仓库管理功能测试 | 第107-108页 |
5.2.5 阈值告警模块测试 | 第108-115页 |
5.3 小结 | 第115-117页 |
第六章 结束语 | 第117-120页 |
6.1 系统总结 | 第117页 |
6.2 下一步展望 | 第117-120页 |
附录A 硬件性能指标详细列表 | 第120-121页 |
附录B 分布式文件系统HDFS性能指标详细列表 | 第121-125页 |
附录C 资源管理框架YARN性能指标详细列表 | 第125-127页 |
附录D 列式数据库HBase性能指标详细列表 | 第127-131页 |
参考文献 | 第131-133页 |
致谢 | 第133-135页 |
作者简介 | 第135-136页 |