致谢 | 第5-6页 |
摘要 | 第6-7页 |
ABSTRACT | 第7-8页 |
目录 | 第9-12页 |
1 引言 | 第12-16页 |
1.1 项目的背景与意义 | 第12-13页 |
1.2 国内外研究和发展现状 | 第13页 |
1.3 项目介绍以及工作总结 | 第13-15页 |
1.4 论文组织结构 | 第15页 |
1.5 本章小结 | 第15-16页 |
2 相关技术 | 第16-22页 |
2.1 Hadoop相关知识 | 第16-21页 |
2.1.1 Hadoop(YARN)作业运行 | 第16-19页 |
2.1.2 Hadoop(YARN)作业信息统计 | 第19页 |
2.1.3 Hadoop(YARN)作业日志 | 第19-20页 |
2.1.4 MapReduce方法 | 第20-21页 |
2.2 本章小结 | 第21-22页 |
3 需求分析 | 第22-34页 |
3.1 业务需求分析 | 第22页 |
3.2 功能性需求 | 第22-32页 |
3.2.1 系统用户需求分析 | 第23-25页 |
3.2.2 Hadoop组件信息采集用例分析 | 第25-26页 |
3.2.3 集群状态信息采集用例分析 | 第26-27页 |
3.2.4 作业信息采集、统计、分析用例分析 | 第27-28页 |
3.2.5 Hadoop组件安装部署用例分析 | 第28-31页 |
3.2.6 Hadoop组件参数配置用例分析 | 第31页 |
3.2.7 用户信息管理用例分析 | 第31-32页 |
3.3 非功能性需求 | 第32页 |
3.4 本章小结 | 第32-34页 |
4 系统概要设计 | 第34-42页 |
4.1 系统技术架构设计 | 第34-35页 |
4.2 系统功能模块设计 | 第35-36页 |
4.3 系统数据库设计 | 第36-39页 |
4.4 本章小结 | 第39-42页 |
5 详细设计与实现 | 第42-84页 |
5.1 开发及运行环境 | 第42-43页 |
5.1.1 集群环境 | 第42页 |
5.1.2 Hadoop环境及部署情况 | 第42-43页 |
5.1.3 软件环境 | 第43页 |
5.2 Hadoop组件信息采集模块 | 第43-55页 |
5.2.1 各角色参数采集方式 | 第44-46页 |
5.2.2 采集策略的设计 | 第46页 |
5.2.3 Hadoop组件信息采集模块类设计 | 第46-48页 |
5.2.4 Hadoop组件信息采集模块实现 | 第48-50页 |
5.2.5 组件状态信息告警 | 第50页 |
5.2.6 Hadoop组件信息采集模块界面设计与实现 | 第50-55页 |
5.3 集群状态信息采集模块 | 第55-59页 |
5.3.1 采集信息及方式 | 第55-56页 |
5.3.2 采集策略的设计 | 第56页 |
5.3.3 集群状态信息采集模块类设计 | 第56-57页 |
5.3.4 计算节点实现 | 第57-58页 |
5.3.5 管理节点实现 | 第58-59页 |
5.3.6 集群状态信息告警 | 第59页 |
5.3.7 集群状态信息采集模块界面设计与实现 | 第59页 |
5.4 作业信息采集模块 | 第59-67页 |
5.4.1 MapReduce作业日志文件保存机制 | 第61页 |
5.4.2 采集策略的设计 | 第61-63页 |
5.4.3 作业信息采集模块类设计 | 第63-64页 |
5.4.4 作业信息采集模块实现 | 第64-67页 |
5.5 作业统计分析模块 | 第67-74页 |
5.5.1 作业信息查询子模块类设计 | 第67-68页 |
5.5.2 作业信息查询子模块实现 | 第68页 |
5.5.3 作业费用计算子模块类设计 | 第68-70页 |
5.5.4 作业费用计算子模块实现 | 第70页 |
5.5.5 作业信息分析子模块类设计 | 第70-71页 |
5.5.6 作业信息分析子模块实现 | 第71-72页 |
5.5.7 作业统计分析模块界面设计与实现 | 第72-74页 |
5.6 Hadoop组件安装部署模块设计 | 第74-78页 |
5.6.1 Hadoop集群环境安装 | 第74-78页 |
5.6.2 Hadoop集群及组件启动与停止 | 第78页 |
5.7 Hadoop组件参数配置模块 | 第78-81页 |
5.7.1 Hadoop组件参数配置模块设计 | 第79-80页 |
5.7.2 Hadoop组件参数配置模块实现 | 第80页 |
5.7.3 Hadoop组件参数配置模块界面设计与实现 | 第80-81页 |
5.8 用户信息管理模块 | 第81-83页 |
5.8.1 用户信息管理模块类设计 | 第82-83页 |
5.8.2 用户信息管理模块实现 | 第83页 |
5.9 本章小结 | 第83-84页 |
6 系统测试 | 第84-88页 |
6.1 测试环境 | 第84-85页 |
6.2 测试用例 | 第85-87页 |
6.3 本章小结 | 第87-88页 |
7 结论与展望 | 第88-90页 |
7.1 结论 | 第88页 |
7.2 工作展望 | 第88-89页 |
7.3 本章小结 | 第89-90页 |
参考文献 | 第90-94页 |
简历 | 第94-98页 |
学位论文数据集 | 第98页 |