首页--工业技术论文--自动化技术、计算机技术论文--计算技术、计算机技术论文--计算机软件论文--程序设计、软件工程论文--软件工程论文

基于海量网络日志数据的实时流处理系统的设计与实现

摘要第4-5页
ABSTRACT第5-6页
第一章 绪论第9-15页
    1.1 选题背景与意义第9页
    1.2 国内外研究现状第9-12页
        1.2.1 日志分析技术的研究现状第10-11页
        1.2.2 实时流处理技术的研究现状第11页
        1.2.3 研究中存在的一些缺陷和不完善之处第11-12页
    1.3 研究内容与论文工作第12-14页
    1.4 论文章节安排第14-15页
第二章 相关理论技术第15-25页
    2.1 Kafka消息系统技术第15-17页
    2.2 Storm实时分析处理技术第17-22页
        2.2.1 Storm分布式计算框架相关技术第18-20页
        2.2.2 Storm基于滑动窗口模型的数据流处理模式第20-21页
        2.2.3 Storm的自适应动态流控制算法第21页
        2.2.4 Storm计算拓扑任务的提交与执行第21-22页
    2.3 Spring MVC框架第22页
    2.4 Zookeeper分布式服务框架第22-24页
    2.5 本章小结第24-25页
第三章 海量日志数据实时分析系统的总体设计第25-33页
    3.1 系统功能需求分析第25-27页
    3.2 系统架构设计与模块设计第27-32页
        3.2.1 总体架构设计第27-28页
        3.2.2 分布式日志采集模块第28-29页
        3.2.3 异步通信模块设计第29-30页
        3.2.4 日志数据实时计算模块第30-31页
        3.2.5 集群运行监控模块第31页
        3.2.6 结果存储模块第31-32页
        3.2.7 结果可视化模块第32页
    3.3 本章小结第32-33页
第四章 海量日志数据实时分析系统的实现第33-46页
    4.1 系统后端模块数据处理流程第33-34页
    4.2 海量日志数据数据实时计算模块第34-40页
        4.2.1 Storm自适应动态流控制算法第35-36页
        4.2.2 Storm处理日志数据高可靠性的实现第36页
        4.2.3 Storm Scheduler自定义调度器第36-39页
        4.2.4 基于复合滑动窗口拓扑的实现第39-40页
    4.3 数据实时处理结果的可视化模块和结果存储模块的实现第40-43页
        4.3.1 结果可视化模块与结果存储模块简介第40-41页
        4.3.2 系统前端模块用户请求处理流程第41-43页
    4.4 运行监控模块的实现第43-45页
        4.4.1 系统集群信息监控进程的实现第43-44页
        4.4.2 系统异常报警进程的实现第44-45页
    4.5 本章小结第45-46页
第五章 海量网络日志数据实时分析测试与评价第46-55页
    5.1 测试环境第46-47页
        5.1.1 开发环境第46页
        5.1.2 运行环境第46-47页
    5.2 日志实时流处理功能测试第47-50页
        5.2.1 功能测试方案第47-48页
        5.2.2 功能测试结果第48-50页
    5.3 日志实时流处理性能测试第50-54页
        5.3.1 Storm拓扑中两种处理模式的测试对比第50-52页
        5.3.2 Kafka消息系统性能优化设计与测试第52-53页
        5.3.3 Storm自定义任务调度算法与默认调度算法对比第53-54页
    5.4 本章小结第54-55页
第六章 总结与展望第55-57页
    6.1 工作总结第55-56页
    6.2 研究展望第56-57页
参考文献第57-59页
致谢第59-60页
攻读学位期间发表的学术论文第60页

论文共60页,点击 下载论文
上一篇:基于社交信任传递的矩阵分解模型推荐算法的优化研究
下一篇:基于模块化的前端开发框架的研究与实现