摘要 | 第4-7页 |
ABSTRACT | 第7-10页 |
第一章 绪论 | 第13-23页 |
1.1 课题背景 | 第13-18页 |
1.1.1 移动互联网的发展现状与挑战 | 第13-16页 |
1.1.2 基于云计算的网络数据处理技术 | 第16-18页 |
1.2 本文主要内容和创新点 | 第18-20页 |
1.3 论文组织结构 | 第20-23页 |
第二章 基于Hadoop的海量网络数据处理平台架构 | 第23-43页 |
2.1 使用Hadoop处理海量网络数据的必要性 | 第23-25页 |
2.2 平台架构及关键技术 | 第25-39页 |
2.2.1 海量数据采集和分布式传输技术 | 第27-28页 |
2.2.2 海量网络数据存储技术 | 第28-33页 |
2.2.3 基于MapReduce的海量网络数据处理技术 | 第33-39页 |
2.3 平台待解决问题分析 | 第39-41页 |
2.3.1 海量数据采集的可靠性传输问题 | 第39-40页 |
2.3.2 海量网络数据的高效存储问题 | 第40页 |
2.3.3 海量网络数据处理的性能问题 | 第40-41页 |
2.3.4 海量网络数据处理平台的网络安全问题 | 第41页 |
2.4 本章小结 | 第41-43页 |
第三章 基于分布式故障检测机制的高可靠数据采集 | 第43-61页 |
3.1 高可靠性海量网络数据采集问题 | 第43-45页 |
3.2 分布式网络故障检测技术研究 | 第45-47页 |
3.3 高可靠性海量数据采集框架 | 第47-57页 |
3.3.1 数据采集框架拓扑结构 | 第47-49页 |
3.3.2 数据采集框架监控技术 | 第49-57页 |
3.4 功能验证 | 第57-59页 |
3.5 本章小结 | 第59-61页 |
第四章 异构环境的高效数据存储 | 第61-87页 |
4.1 分布式数据存储技术简介 | 第61-65页 |
4.1.1 GFS | 第62-63页 |
4.1.2 马逊S3 | 第63-64页 |
4.1.3 Lustre文件系统 | 第64页 |
4.1.4 Taobao File System | 第64-65页 |
4.2 异构环境下的分布式数据存储问题 | 第65-71页 |
4.3 服务器性能评估技术 | 第71-73页 |
4.4 基于节点性能评估的海量数据存储算法 | 第73-79页 |
4.4.1 Hadoop中的节点性能评估方法 | 第73-75页 |
4.4.2 基于节点性能基准的数据存储节点选择 | 第75-79页 |
4.5 实验及分析 | 第79-86页 |
4.5.1 实验环境 | 第79-80页 |
4.5.2 服务器性能基准测量 | 第80-81页 |
4.5.3 节点服务器性能测量结果校验 | 第81-83页 |
4.5.4 基于改进HDFS算法的作业运行实验 | 第83-86页 |
4.6 本章小结 | 第86-87页 |
第五章 基于节点动态性能推断的任务分配算法研究 | 第87-107页 |
5.1 Hadoop作业调度机制研究及问题分析 | 第87-92页 |
5.1.1 MapReduce任务分配机制 | 第87-89页 |
5.1.2 推测性任务运行机制 | 第89-90页 |
5.1.3 问题分析 | 第90-92页 |
5.2 指数平滑模型 | 第92-93页 |
5.3 基于节点动态性能推断的任务分配算法 | 第93-99页 |
5.3.1 基于节点动态性能推断的节点性能计算方法 | 第93-95页 |
5.3.2 基于节点动态性能推断的MapReduce调度算法改进 | 第95-99页 |
5.4 实验及分析 | 第99-104页 |
5.4.1 实验环境 | 第99-100页 |
5.4.2 节点动态性能推断实验 | 第100-101页 |
5.4.3 基于节点动态性能推断的作业运行实验 | 第101-104页 |
5.5 本章小结 | 第104-107页 |
第六章 基于分类器联合的分布式异常流量检测 | 第107-127页 |
6.1 概述 | 第107-108页 |
6.2 云计算安全问题分析 | 第108-110页 |
6.2.1 针对云计算的网络攻击技术研究 | 第108-109页 |
6.2.2 云计算环境的异常流量检测技术分析 | 第109-110页 |
6.3 基于分类器联合的分布式异常流量检测技术 | 第110-121页 |
6.3.1 框架说明 | 第110-112页 |
6.3.2 分类算法选择和实现 | 第112-116页 |
6.3.3 分类器联合判定算法 | 第116-121页 |
6.4 实验及分析 | 第121-125页 |
6.4.1 实验环境 | 第121-122页 |
6.4.2 实验方法及结果分析 | 第122-125页 |
6.5 本章小结 | 第125-127页 |
结束语:总结与展望 | 第127-131页 |
参考文献 | 第131-139页 |
附录:缩写词说明 | 第139-141页 |
致谢 | 第141-143页 |
攻读学位期间发表的学术论文目录 | 第143页 |