摘要 | 第5-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-14页 |
1.1 研究背景 | 第10-11页 |
1.2 研究意义 | 第11-13页 |
1.3 论文结构 | 第13-14页 |
第二章 分布式处理技术 | 第14-18页 |
2.1 分布式存储系统HDFS | 第14-15页 |
2.2 分布式计算框架 | 第15-16页 |
2.2.1 MapReduce计算框架 | 第15页 |
2.2.2 Spark计算框架 | 第15-16页 |
2.3 消息队列Kafka | 第16-17页 |
2.4 流式计算框架Spark Streaming | 第17页 |
2.5 本章小结 | 第17-18页 |
第三章 流式分位数估计算法 | 第18-26页 |
3.1 分位数概述 | 第18-19页 |
3.1.1 分位数定义 | 第18-19页 |
3.1.2 分位数计算公式 | 第19页 |
3.2 流式分位数估计算法概述 | 第19-21页 |
3.2.1 研究要求 | 第19-20页 |
3.2.2 算法分类 | 第20-21页 |
3.3 传统流式分位数估计算法 | 第21-25页 |
3.3.1 GK算法 | 第21-22页 |
3.3.2 Random算法 | 第22-23页 |
3.3.3 Biased算法 | 第23-24页 |
3.3.4 IQL算法 | 第24-25页 |
3.4 本章小结 | 第25-26页 |
第四章 IQN算法的设计及实现 | 第26-40页 |
4.1 总体设计 | 第26-27页 |
4.2 数据准备模块 | 第27-33页 |
4.2.1 设计思路 | 第27-28页 |
4.2.2 拟合模型的选取 | 第28-31页 |
4.2.3 参数拟合方法 | 第31-33页 |
4.3 CDF计算模块 | 第33-37页 |
4.3.1 设计思路 | 第33-35页 |
4.3.2 实现优化 | 第35-37页 |
4.4 分位数计算模块 | 第37-38页 |
4.5 性能评估 | 第38页 |
4.6 本章小结 | 第38-40页 |
第五章 IQN算法性能测试 | 第40-62页 |
5.1 测试数据集 | 第40-44页 |
5.1.1 网络数据集合 | 第40-43页 |
5.1.2 模拟数据集合 | 第43-44页 |
5.2 测试准备 | 第44-46页 |
5.2.1 测试环境 | 第44-45页 |
5.2.2 测试指标 | 第45-46页 |
5.3 IQN算法性能优化 | 第46-52页 |
5.3.1 拟合模型的影响 | 第46-48页 |
5.3.2 数据缓存序列大小的影响 | 第48-50页 |
5.3.3 分位数缓存序列大小的影响 | 第50-52页 |
5.4 流式分位数估计算法性能对比 | 第52-59页 |
5.4.1 网络数据集合测试 | 第53-56页 |
5.4.2 模拟数据集合测试 | 第56-59页 |
5.5 本章小结 | 第59-62页 |
第六章 IQN算法的并行化实现 | 第62-70页 |
6.1 并行化设计 | 第62-63页 |
6.2 并行化性能测试 | 第63-65页 |
6.2.1 准确性测试 | 第64页 |
6.2.2 可扩展性测试 | 第64-65页 |
6.3 实时分位数估计系统 | 第65-68页 |
6.3.1 系统整体架构 | 第65-67页 |
6.3.2 系统运行结果 | 第67-68页 |
6.4 本章小结 | 第68-70页 |
第七章 总结与展望 | 第70-72页 |
参考文献 | 第72-76页 |
致谢 | 第76-78页 |
攻读学位期间发表的学术论文目录 | 第78页 |