基于并行计算的海量日志分析系统实现
摘要 | 第1-4页 |
Abstract | 第4-7页 |
第一章 绪论 | 第7-11页 |
·引言 | 第7-8页 |
·研究背景 | 第8页 |
·研究的内容和目标 | 第8-9页 |
·论文的特点 | 第9-10页 |
·论文的组织结构 | 第10-11页 |
第二章 日志分析技术 | 第11-15页 |
·概述 | 第11页 |
·日志分析现状 | 第11-13页 |
·传统日志分析方式 | 第11-12页 |
·海量日志分析系统 | 第12-13页 |
·日志分析工具 | 第13页 |
·日志分析发展趋势 | 第13-15页 |
第三章 并行计算处理模型 | 第15-26页 |
·概述 | 第15页 |
·MapReduce并行计算模型 | 第15-17页 |
·Flume并行日志收集模型 | 第17-20页 |
·Flume模型 | 第17页 |
·数据流 | 第17-19页 |
·设计目标 | 第19页 |
·并行处理架构 | 第19-20页 |
·Hive数据查询 | 第20-21页 |
·ElasticSearch实时检索 | 第21-23页 |
·分布式文件系统HDFS | 第23-26页 |
第四章 基于MapReduce的日志分析系统 | 第26-39页 |
·概述 | 第26页 |
·框架模型 | 第26-29页 |
·整体目标 | 第26页 |
·功能模块 | 第26-27页 |
·表现层 | 第27-28页 |
·数据流程 | 第28-29页 |
·模块关系 | 第29页 |
·并行计算以及分布式存储 | 第29-33页 |
·概括 | 第29-30页 |
·分布式收集 | 第30页 |
·并行计算处理 | 第30-31页 |
·分布式存储 | 第31-32页 |
·非实时处理 | 第32-33页 |
·实时检索 | 第33页 |
·用户及组管理 | 第33-34页 |
·数据库模块 | 第34-38页 |
·数据库表综述 | 第34-35页 |
·数据库设计原则 | 第35-36页 |
·表结构 | 第36-38页 |
·开发平台选择 | 第38-39页 |
第五章 平台搭建与实现 | 第39-56页 |
·概述 | 第39页 |
·开发环境 | 第39页 |
·硬件环境 | 第39页 |
·软件环境 | 第39页 |
·功能实现 | 第39-49页 |
·整体功能 | 第40页 |
·核心功能 | 第40-49页 |
·系统技术难点 | 第49-52页 |
·日志文件收集 | 第49页 |
·碎片文件处理 | 第49-50页 |
·HDFS存储文件显示 | 第50页 |
·Flume Sink插件 | 第50页 |
·文件元数据存储 | 第50-51页 |
·权限控制 | 第51-52页 |
·系统实施方案 | 第52-54页 |
·系统安全性 | 第54-56页 |
第六章 总结与展望 | 第56-58页 |
·论文工作总结 | 第56-57页 |
·未来工作展望 | 第57-58页 |
参考文献 | 第58-60页 |
致谢 | 第60-61页 |
硕士学位期间发表的论文目录 | 第61页 |