首页--工业技术论文--自动化技术、计算机技术论文--计算技术、计算机技术论文--计算机软件论文--程序设计、软件工程论文--程序设计论文

基于Hadoop平台的地铁运营日志存储与分析系统的设计与实现

摘要第4-5页
ABSTRACT第5-6页
第一章 绪论第10-16页
    1.1 选题背景和研究意义第10-11页
    1.2 研究现状第11-12页
    1.3 主要研究内容和研究目的第12-14页
        1.3.1 集群环境的部署和优化第13页
        1.3.2 地铁运营信息的数据存储和数据模型的设计第13页
        1.3.3 地铁运营信息的数据分析方法第13-14页
        1.3.4 本人承担的工作第14页
    1.4 论文的组织结构第14-16页
第二章 相关技术介绍第16-23页
    2.1 Hadoop介绍第16页
    2.2 HDFS介绍第16-18页
    2.3 HBase介绍第18-20页
    2.4 MapReduce的介绍第20-22页
        2.4.1 MapReduce编程模型第20页
        2.4.2 Apache YARN的工作流程第20-21页
        2.4.3 MapReduce处理流程第21-22页
    2.5 本章小结第22-23页
第三章 地铁运营日志存储与分析系统的需求分析第23-31页
    3.1 系统总体概述第23-27页
        3.1.1 MSS系统及日志收集过程介绍第24-25页
        3.1.2 日志内容和格式介绍第25-26页
        3.1.3 日志解析过程介绍第26页
        3.1.4 地铁运营日志存储与分析系统外部接口设计第26-27页
    3.2 系统功能需求分析第27-28页
        3.2.1 日志分析功能第27-28页
        3.2.2 设备状态查询统计功能第28页
        3.2.3 日志数据存储管理功能第28页
        3.2.4 集群检测功能第28页
    3.3 系统非功能需求第28-30页
        3.3.1 扩展性第29页
        3.3.2 处理速度要求第29-30页
    3.4 本章小结第30-31页
第四章 系统设计与实现第31-53页
    4.1 系统整体结构第31-35页
        4.1.1 数据存储模块第32页
        4.1.2 数据分析模块第32-34页
        4.1.3 数据查询模块第34页
        4.1.4 集群维护模块第34-35页
    4.2 数据存储模块的设计与实现第35-39页
        4.2.1 原始日志数据的监测第35-36页
        4.2.2 原始日志数据的归档第36页
        4.2.3 日志数据表的设计第36-39页
    4.3 数据分析模块设计与实现第39-48页
        4.3.1 日志分析处理流程第39-40页
        4.3.2 MapReduce任务输入设计与实现第40-42页
        4.3.3 MapReduce二次排序第42-43页
        4.3.4 MapReduce中间键值对设计第43-48页
        4.3.5 MapReduce任务输出设计与实现第48页
    4.4 数据查询模块设计与实现第48-50页
        4.4.1 告警查询实现第48-49页
        4.4.2 告警统计实现第49-50页
    4.5 系统维护模块设计与实现第50-52页
    4.6 本章小结第52-53页
第五章 系统测试与结果分析第53-67页
    5.1 地铁运营日志存储与分析系统的实验环境第53页
    5.2 Hadoop相关配置第53-55页
        5.2.1 集群环境第53-54页
        5.2.2 集群节点相关配置第54页
        5.2.3 地铁运营日志存储与分析系统的配置文件第54-55页
    5.3 系统各模块功能测试第55-58页
        5.3.1 数据存储模块的功能测试第56-57页
        5.3.2 数据分析模块的功能测试第57-58页
    5.4 系统优化以及性能测试第58-66页
        5.4.1 MapReduce中间键值对调优第59-61页
        5.4.2 Hadoop配置调优第61-66页
    5.5 本章小结第66-67页
第六章 总结与展望第67-69页
    6.1 论文总结第67页
    6.2 问题与展望第67-69页
参考文献第69-71页
致谢第71-72页
作者攻读学位期间发表的学术论文目录第72页

论文共72页,点击 下载论文
上一篇:融合语义信息的位置预测技术研究
下一篇:分布式发布订阅系统性能分析与改进