首页--工业技术论文--自动化技术、计算机技术论文--计算技术、计算机技术论文--计算机软件论文--程序设计、软件工程论文--程序设计论文

基于Hadoop的海量网络数据处理平台的关键技术研究

摘要第4-7页
ABSTRACT第7-10页
第一章 绪论第13-23页
    1.1 课题背景第13-18页
        1.1.1 移动互联网的发展现状与挑战第13-16页
        1.1.2 基于云计算的网络数据处理技术第16-18页
    1.2 本文主要内容和创新点第18-20页
    1.3 论文组织结构第20-23页
第二章 基于Hadoop的海量网络数据处理平台架构第23-43页
    2.1 使用Hadoop处理海量网络数据的必要性第23-25页
    2.2 平台架构及关键技术第25-39页
        2.2.1 海量数据采集和分布式传输技术第27-28页
        2.2.2 海量网络数据存储技术第28-33页
        2.2.3 基于MapReduce的海量网络数据处理技术第33-39页
    2.3 平台待解决问题分析第39-41页
        2.3.1 海量数据采集的可靠性传输问题第39-40页
        2.3.2 海量网络数据的高效存储问题第40页
        2.3.3 海量网络数据处理的性能问题第40-41页
        2.3.4 海量网络数据处理平台的网络安全问题第41页
    2.4 本章小结第41-43页
第三章 基于分布式故障检测机制的高可靠数据采集第43-61页
    3.1 高可靠性海量网络数据采集问题第43-45页
    3.2 分布式网络故障检测技术研究第45-47页
    3.3 高可靠性海量数据采集框架第47-57页
        3.3.1 数据采集框架拓扑结构第47-49页
        3.3.2 数据采集框架监控技术第49-57页
    3.4 功能验证第57-59页
    3.5 本章小结第59-61页
第四章 异构环境的高效数据存储第61-87页
    4.1 分布式数据存储技术简介第61-65页
        4.1.1 GFS第62-63页
        4.1.2 马逊S3第63-64页
        4.1.3 Lustre文件系统第64页
        4.1.4 Taobao File System第64-65页
    4.2 异构环境下的分布式数据存储问题第65-71页
    4.3 服务器性能评估技术第71-73页
    4.4 基于节点性能评估的海量数据存储算法第73-79页
        4.4.1 Hadoop中的节点性能评估方法第73-75页
        4.4.2 基于节点性能基准的数据存储节点选择第75-79页
    4.5 实验及分析第79-86页
        4.5.1 实验环境第79-80页
        4.5.2 服务器性能基准测量第80-81页
        4.5.3 节点服务器性能测量结果校验第81-83页
        4.5.4 基于改进HDFS算法的作业运行实验第83-86页
    4.6 本章小结第86-87页
第五章 基于节点动态性能推断的任务分配算法研究第87-107页
    5.1 Hadoop作业调度机制研究及问题分析第87-92页
        5.1.1 MapReduce任务分配机制第87-89页
        5.1.2 推测性任务运行机制第89-90页
        5.1.3 问题分析第90-92页
    5.2 指数平滑模型第92-93页
    5.3 基于节点动态性能推断的任务分配算法第93-99页
        5.3.1 基于节点动态性能推断的节点性能计算方法第93-95页
        5.3.2 基于节点动态性能推断的MapReduce调度算法改进第95-99页
    5.4 实验及分析第99-104页
        5.4.1 实验环境第99-100页
        5.4.2 节点动态性能推断实验第100-101页
        5.4.3 基于节点动态性能推断的作业运行实验第101-104页
    5.5 本章小结第104-107页
第六章 基于分类器联合的分布式异常流量检测第107-127页
    6.1 概述第107-108页
    6.2 云计算安全问题分析第108-110页
        6.2.1 针对云计算的网络攻击技术研究第108-109页
        6.2.2 云计算环境的异常流量检测技术分析第109-110页
    6.3 基于分类器联合的分布式异常流量检测技术第110-121页
        6.3.1 框架说明第110-112页
        6.3.2 分类算法选择和实现第112-116页
        6.3.3 分类器联合判定算法第116-121页
    6.4 实验及分析第121-125页
        6.4.1 实验环境第121-122页
        6.4.2 实验方法及结果分析第122-125页
    6.5 本章小结第125-127页
结束语:总结与展望第127-131页
参考文献第131-139页
附录:缩写词说明第139-141页
致谢第141-143页
攻读学位期间发表的学术论文目录第143页

论文共143页,点击 下载论文
上一篇:基于微量试剂分配控制的微操作方法和实验研究
下一篇:冗余双臂机器人协调操作方法研究