| 摘要 | 第4-5页 |
| ABSTRACT | 第5-6页 |
| 第一章 绪论 | 第11-19页 |
| 1.1 论文研究背景 | 第11-12页 |
| 1.2 大数据处理与管理系统的国内外研究现状 | 第12-17页 |
| 1.2.1 集群监控系统的研究现状 | 第12-13页 |
| 1.2.2 大数据文件存储系统的研究现状 | 第13-14页 |
| 1.2.3 资源调度系统的研究现状 | 第14-15页 |
| 1.2.4 大数据计算框架的研究现状 | 第15-17页 |
| 1.3 本文的主要研究内容 | 第17页 |
| 1.4 本文组织结构 | 第17-19页 |
| 第二章 大数据处理平台相关技术介绍 | 第19-32页 |
| 2.1 分布式文件系统HDFS | 第19-22页 |
| 2.1.1 HDFS的系统结构 | 第19-20页 |
| 2.1.2 HDFS的特点 | 第20-21页 |
| 2.1.3 HDFS的缺点 | 第21-22页 |
| 2.2 资源调度管理系统Yarn | 第22-26页 |
| 2.2.1 Yarn的系统架构 | 第23-25页 |
| 2.2.2 Yarn的调度机制简介 | 第25-26页 |
| 2.3 基于内存的计算框架Spark | 第26-28页 |
| 2.3.1 Spark的系统架构 | 第26-27页 |
| 2.3.2 Spark的核心RDD | 第27-28页 |
| 2.3.3 Spark的特性 | 第28页 |
| 2.4 Spring MVC框架与动态JS模板引擎artTemplate | 第28-31页 |
| 2.4.1 MVC思想简介 | 第28-29页 |
| 2.4.2 Spring MVC简介 | 第29-30页 |
| 2.4.3 artTemplate简介 | 第30-31页 |
| 2.5 本章小结 | 第31-32页 |
| 第三章 Yarn不同调度器之间的性能对比研究 | 第32-40页 |
| 3.1 研究目的和背景 | 第32-34页 |
| 3.1.1 研究目的 | 第32页 |
| 3.1.2 国内外研究现状 | 第32页 |
| 3.1.3 Scheduler介绍 | 第32-34页 |
| 3.2 实验环境 | 第34-35页 |
| 3.2.1 实验硬件环境 | 第34页 |
| 3.2.2 实验软件环境 | 第34-35页 |
| 3.3 实验内容和结果 | 第35-39页 |
| 3.3.1 场景一:单个任务性能对比 | 第35-36页 |
| 3.3.2 场景二:多个相同任务性能对比 | 第36-38页 |
| 3.3.3 场景三:混合情况下性能对比 | 第38-39页 |
| 3.4 实验结论 | 第39页 |
| 3.5 本章小结 | 第39-40页 |
| 第四章 系统的需求分析与整体设计 | 第40-47页 |
| 4.1 大数据处理的特点分析 | 第40页 |
| 4.2 系统的需求分析 | 第40-44页 |
| 4.2.1 集群监控的需求分析 | 第40-41页 |
| 4.2.2 文件存储的需求分析 | 第41-42页 |
| 4.2.3 资源调度和任务管理的需求分析 | 第42页 |
| 4.2.4 系统的易用性需求分析 | 第42-43页 |
| 4.2.5 系统的第三方服务需求分析 | 第43-44页 |
| 4.3 系统的整体架构设计 | 第44-46页 |
| 4.3.1 集群统一监控子系统概述 | 第45页 |
| 4.3.2 文件统一管理子系统概述 | 第45页 |
| 4.3.3 资源及任务统一管理子系统概述 | 第45页 |
| 4.3.4 外部API及Web Service统一服务子系统概述 | 第45-46页 |
| 4.3.5 可视化Web平台概述 | 第46页 |
| 4.4 本章小结 | 第46-47页 |
| 第五章 系统的详细设计与实现 | 第47-62页 |
| 5.1 集群统一监控子系统详细设计与实现 | 第47-51页 |
| 5.1.1 系统的背景 | 第47页 |
| 5.1.2 困难和挑战 | 第47-48页 |
| 5.1.3 集群统一监控子系统的功能和设计 | 第48-49页 |
| 5.1.4 集群信息发现和监控信息获取 | 第49-50页 |
| 5.1.5 报警模块设计 | 第50-51页 |
| 5.2 文件统一管理子系统详细设计与实现 | 第51-54页 |
| 5.2.1 系统的背景 | 第51页 |
| 5.2.2 困难和挑战 | 第51-52页 |
| 5.2.3 文件统一管理子系统的功能和设计 | 第52页 |
| 5.2.4 文件冗余备份机制 | 第52-53页 |
| 5.2.5 元数据管理功能模块和数据读写模块实现 | 第53-54页 |
| 5.3 资源及任务统一管理子系统设计与实现 | 第54-57页 |
| 5.3.1 系统的背景 | 第54页 |
| 5.3.2 困难和挑战 | 第54-55页 |
| 5.3.3 资源及任务统一管理子系统功能和设计 | 第55-56页 |
| 5.3.4 资源管理与任务监控模块实现 | 第56页 |
| 5.3.5 任务上传模块实现 | 第56-57页 |
| 5.4 外部API及Web Service统一服务子系统详细设计与实现 | 第57-59页 |
| 5.4.1 系统的背景 | 第57-58页 |
| 5.4.2 外部API及Web Service统一服务子系统功能与设计 | 第58页 |
| 5.4.3 基于Gradle和jetty的API和Web Service实现 | 第58-59页 |
| 5.5 可视化Web平台详细设计与实现 | 第59-61页 |
| 5.5.1 系统的背景 | 第59页 |
| 5.5.2 可视化Web平台的功能和设计 | 第59-61页 |
| 5.5.3 基于artTemplate的动态模板设计 | 第61页 |
| 5.6 本章小结 | 第61-62页 |
| 第六章 系统的部署与测试 | 第62-73页 |
| 6.1 系统的部署 | 第62-63页 |
| 6.1.1 部署环境 | 第62页 |
| 6.1.2 部署流程和方法 | 第62-63页 |
| 6.2 系统的功能性测试 | 第63-72页 |
| 6.2.1 集群统一监控子系统功能性测试 | 第63-67页 |
| 6.2.2 文件统一管理子系统功能性测试 | 第67-69页 |
| 6.2.3 资源及任务统一管理子系统功能性测试 | 第69-71页 |
| 6.2.4 第三方服务测试 | 第71-72页 |
| 6.3 本章小结 | 第72-73页 |
| 第七章 总结与展望 | 第73-75页 |
| 7.1 总结 | 第73-74页 |
| 7.2 展望 | 第74-75页 |
| 参考文献 | 第75-77页 |
| 致谢 | 第77-78页 |
| 攻读学位期间发表的学术论文 | 第78页 |
