首页--工业技术论文--自动化技术、计算机技术论文--计算技术、计算机技术论文--计算机软件论文--程序设计、软件工程论文--程序设计论文

Spark数据处理平台中内存数据空间管理技术研究

摘要第4-6页
Abstract第6-7页
第1章 绪论第11-19页
    1.1 分布式内存计算平台Spark简介第11-13页
        1.1.1 大数据处理技术发展背景第11-12页
        1.1.2 分布式内存计算平台典型代表-Spark平台第12-13页
    1.2 Spark平台中基于内存的数据存储空间管理技术的现状与不足第13-15页
    1.3 本文的主要贡献第15-16页
    1.4 本文的组织结构第16页
    1.5 本章小结第16-19页
第2章 相关工作第19-27页
    2.1 海量数据处理平台的演进第19-20页
        2.1.1 海量数据处理应用新特征第19页
        2.1.2 新型海量数据处理平台发展历程第19-20页
    2.2 分布式内存计算平台概述第20-23页
        2.2.1 分布式内存计算平台新特征第20-21页
        2.2.2 Spark平台概述第21-22页
        2.2.3 其他分布式内存计算平台第22-23页
    2.3 分布式共享内存相关研究工作第23-24页
    2.4 数据替换相关研究工作第24-25页
    2.5 资源动态分配技术相关研究工作第25-26页
    2.6 本章小结第26-27页
第3章 基于共享内存的RDD缓存数据空间的组织与管理模型第27-35页
    3.1 基于共享内存的RDD缓存数据空间动态管理技术的基本思路第27-28页
    3.2 基于共享内存的RDD缓存数据空间的组织模型第28-30页
        3.2.1 组织结构第29页
        3.2.2 数据存储粒度第29页
        3.2.3 数据存储机制第29-30页
    3.3 基于共享内存的RDD缓存数据空间的管理模型第30-34页
        3.3.1 管理架构第30-31页
        3.3.2 元数据定义第31-33页
        3.3.3 容错性第33-34页
    3.4 本章小结第34-35页
第4章 面向RDD缓存数据空间的数据迁移策略第35-45页
    4.1 RDD缓存数据空间数据迁移中关键问题第35-36页
    4.2 RDD缓存数据空间数据迁移触发条件定义第36页
    4.3 RDD缓存数据空间数据迁移代价的量化计算模型第36-39页
        4.3.1 数据迁移代价量化计算考虑因素第37页
        4.3.2 数据迁移代价量化计算决策因子第37-38页
        4.3.3 数据迁移代价量化计算第38-39页
    4.4 RDD缓存数据空间迁移目标节点满足度的量化计算模型第39-41页
        4.4.1 迁移目标节点满足度量化计算考虑因素第39-40页
        4.4.2 迁移目标节点满足度量化计算决策因子第40-41页
        4.4.3 迁移目标节点满足度量化计算第41页
    4.5 RDD缓存数据空间内的数据迁移策略第41-43页
    4.6 本章小结第43-45页
第5章 面向Spark平台的内存数据空间动态分配策略第45-55页
    5.1 关键问题第45-46页
    5.2 临时数据空间周期性判断模型第46-50页
        5.2.1 自相关函数第46-47页
        5.2.2 模型定义第47-48页
        5.2.3 临时数据空间周期性判断模型设计第48-50页
    5.3 内存使用量预测第50-52页
        5.3.1 周期性临时数据空间预测方法第50页
        5.3.2 非周期性临时数据空间预测方法第50-52页
    5.4 面向Spark平台的内存数据空间动态分配策略第52-54页
    5.5 本章小结第54-55页
第6章 基于共享内存的RDD缓存数据空间动态管理技术在Spark平台上的实现第55-69页
    6.1 SMSpark系统架构第55-57页
    6.2 SMSpark系统共享内存空间数据的读写功能实现第57-59页
        6.2.1 共享内存空间内数据读取流程及其模块交互关系第58页
        6.2.2 共享内存空间内数据写入流程及其模块交互关系第58-59页
    6.3 SMSpark系统编程接口的扩充第59-60页
    6.4 SMSpark系统基于RDD缓存数据本地性的任务调度功能实现第60页
    6.5 SMSpark系统RDD缓存数据空间的数据迁移功能实现第60-65页
        6.5.1 迁移数据选取的功能实现第60-63页
        6.5.2 迁移目标节点选取的功能实现第63-65页
        6.5.3 数据迁移功能的实现流程第65页
    6.6 SMSpark系统内存数据空间动态分配功能实现第65-67页
        6.6.1 临时数据空间管理相关数据结构第66页
        6.6.2 临时数据空间使用量周期性采集与预测功能的实现第66-67页
        6.6.3 内存数据空间动态分配功能实现第67页
    6.7 本章小结第67-69页
第7章 性能测试与分析第69-91页
    7.1 测试负载第69-72页
        7.1.1 单应用负载第69-70页
        7.1.2 多应用负载第70-72页
    7.2 性能评价指标第72-75页
    7.3 测试结果与分析第75-89页
        7.3.1 测试环境第75页
        7.3.2 单应用负载测试结果与性能分析第75-79页
        7.3.3 多应用负载测试结果与性能分析第79-88页
        7.3.4 临时数据空间使用量预测准确度测试结果与性能分析第88-89页
        7.3.5 系统可扩展性测试结果与性能分析第89页
    7.4 本章小结第89-91页
结论第91-93页
参考文献第93-97页
攻读硕士学位期间所发表的学术论文第97-99页
致谢第99页

论文共99页,点击 下载论文
上一篇:掺杂对W型六角晶系铁氧体的微观结构和磁性能研究
下一篇:噪声量子操作的纠缠特性及其质量刻画