| 摘要 | 第4-5页 |
| ABSTRACT | 第5-6页 |
| 第一章 绪论 | 第9-12页 |
| 1.1 研究背景及意义 | 第9-10页 |
| 1.2 研究内容 | 第10-11页 |
| 1.3 论文结构 | 第11-12页 |
| 第二章 网络流量分析系统介绍 | 第12-17页 |
| 2.1 网络流量采集及解析系统 | 第12-13页 |
| 2.2 Hadoop平台架构 | 第13-15页 |
| 2.2.1 Hadoop的体系结构 | 第13-14页 |
| 2.2.2 分布式文件系统HDFS | 第14页 |
| 2.2.3 分布式计算模型Mapreduce | 第14-15页 |
| 2.3 话单分析系统介绍 | 第15-17页 |
| 第三章 基于oozie的作业调度 | 第17-27页 |
| 3.1 Hadoop作业调度工具介绍 | 第17-18页 |
| 3.2 基于JobControl的硬编码的作业调度方法 | 第18-20页 |
| 3.3 使用脚本语言完成作业调度 | 第20-21页 |
| 3.4 使用Oozie完成作业调度 | 第21-26页 |
| 3.4.1 开源hadoop作业调度工具 | 第21页 |
| 3.4.2 Oozie与Azkaban | 第21-23页 |
| 3.4.3 使用Oozie进行作业调度 | 第23-26页 |
| 3.5 本章小结 | 第26-27页 |
| 第四章 典型网络流量分析作业的优化 | 第27-44页 |
| 4.1 MapReduce计算框架 | 第27-29页 |
| 4.1.1 Mapreduce系统架构 | 第27-28页 |
| 4.1.2 Mapreduce的数据处理流程 | 第28-29页 |
| 4.2 流量分析领域典型的作业类型总结 | 第29-32页 |
| 4.2.1 聚合类作业特点 | 第29-31页 |
| 4.2.2 排序类作业特点 | 第31页 |
| 4.2.3 连接类作业特点 | 第31-32页 |
| 4.3 多路输出 | 第32-34页 |
| 4.4 使用combiner | 第34-36页 |
| 4.5 字段联合编码 | 第36-37页 |
| 4.6 Join操作的优化 | 第37-39页 |
| 4.7 hadoop参数调优 | 第39-43页 |
| 4.7.1 KVbuffer大小的调整 | 第39-40页 |
| 4.7.2 控制Maper的数量 | 第40-41页 |
| 4.7.3 压缩Map输出结果 | 第41-43页 |
| 4.8 本章小结 | 第43-44页 |
| 第五章 采样方法在网络流量分析领域的应用 | 第44-55页 |
| 5.1 使用采样方法完成数据压缩 | 第44-45页 |
| 5.2 实验所采用的数据集 | 第45页 |
| 5.3 影响采样分析相对误差的关键因素 | 第45-48页 |
| 5.3.1 采样比对相对误差的影响 | 第46-47页 |
| 5.3.2 采样总体大小对相对误差的影响 | 第47-48页 |
| 5.4 采样池采样及其改进方案 | 第48-52页 |
| 5.4.1 分类聚合操作中的数据倾斜 | 第48-50页 |
| 5.4.2 采样池采样方法 | 第50-51页 |
| 5.4.3 改进的采样池采样策略 | 第51-52页 |
| 5.5 采样方法中的用户丢失率分析 | 第52-54页 |
| 5.5.1 用户丢失现象 | 第52-53页 |
| 5.5.2 用户丢失原因分析 | 第53-54页 |
| 5.6 本章小结 | 第54-55页 |
| 第六章 总结与展望 | 第55-57页 |
| 参考文献 | 第57-60页 |
| 致谢 | 第60-61页 |
| 攻读学位期间发表的学术论文目录 | 第61页 |