首页--工业技术论文--自动化技术、计算机技术论文--自动化技术及设备论文--自动化系统论文--数据处理、数据处理系统论文

基于流式计算的MUSER数据处理管线技术研究

摘要第5-7页
Abstract第7-8页
第一章 绪论第12-18页
    1.1 论文研究背景第12-14页
        1.1.1 MUSER项目简介第12-13页
        1.1.2 MUSER高性能计算能力需求第13-14页
    1.2 国内外研究现状第14-15页
    1.3 论文研究的目的与意义第15页
    1.4 论文的主要研究工作第15-16页
        1.4.1 论文的研究内容第15页
        1.4.2 论文的组织结构第15-16页
    1.5 本章小结第16-18页
第二章 流式计算研究第18-32页
    2.1 流式计算相关技术综述第18-21页
        2.1.1 流式计算概述第18-19页
        2.1.2 流式大数据的定义及特点第19-20页
        2.1.3 流式计算的应用场景及价值第20-21页
        2.1.4 当前主流数据流计算环境第21页
    2.2 分布式流式计算系统架构第21-22页
        2.2.1 主从式架构第21-22页
        2.2.2 对称式架构第22页
    2.3 流式计算关键技术第22-23页
        2.3.1 数据传输第22页
        2.3.2 高可用技术第22-23页
        2.3.3 编程接口第23页
        2.3.4 动态负载均衡第23页
        2.3.5 其他关键技术第23页
    2.4 流式计算平台的对比分析与选择第23-28页
        2.4.1 Storm第24页
        2.4.2 S4第24页
        2.4.3 StreamBase第24-25页
        2.4.4 Spark Streaming第25页
        2.4.5 对比分析第25-27页
        2.4.6 流式计算平台选择第27-28页
    2.5 现存的问题和技术挑战第28-30页
        2.5.1 系统可伸缩性第28-29页
        2.5.2 系统的容错性第29页
        2.5.3 状态的一致性第29页
        2.5.4 系统的负载均衡第29页
        2.5.5 数据吞吐量第29-30页
    2.6 本章小结第30-32页
第三章 MUSER实时数据处理分析与PIPELINE设计第32-42页
    3.1 数据处理需求分析第32-34页
    3.2 数据处理PIPELINE整体设计第34-35页
    3.3 工作流标签设计第35-36页
    3.4 各模块中的关键技术第36-38页
        3.4.1 数据采集模块设计第36-37页
        3.4.2 数据归档和高性能索引第37页
        3.4.3 延迟补偿和条纹停止第37页
        3.4.4 星表校准第37-38页
        3.4.5 数据标记第38页
        3.4.6 图像洁化第38页
    3.5 数据处理PIPELINE硬件部署第38-40页
    3.6 本章小结第40-42页
第四章 MUSER-PIPELINE的实现中的关键技术第42-54页
    4.1 Spark Streaming中关键技术在MUSER中的应用第42-44页
        4.1.1 弹性分布式数据集合与数据格式扩展第42-43页
        4.1.2 持久化第43-44页
        4.1.3 混合计算节点的实现第44页
    4.2 分布式UVFITS文件生成第44-47页
    4.3 分布式实时存储环境下的FITS数据一致性第47-52页
        4.3.1 一致性需求、不一致原因及状态分析第47-49页
        4.3.2 一致性解决方案第49-51页
        4.3.3 超时时间选择第51-52页
    4.4 本章小结第52-54页
第五章 MUSER-PIPELINE部分实验结果第54-58页
    5.1 实验硬件环境第54-55页
    5.2 基于Spark Streaming的UVFITS合成实验第55页
    5.3 FITS一致性实验第55-56页
    5.4 本章小结第56-58页
第六章 总结与未来工作第58-60页
    6.1 总结第58-59页
    6.2 未来工作第59-60页
致谢第60-62页
参考文献第62-68页
附录A (攻读学位期间发表论文目录)第68-70页
附录B (攻读学位其间参与科研项目)第70页

论文共70页,点击 下载论文
上一篇:基于MCGS与S7-200PLC在活性炭混捏成型控制系统的研究
下一篇:喷涂生产系统轮毂转线机械手设计与开发