不确定数据流的实体解析与资源优化研究
摘要 | 第5-7页 |
ABSTRACT | 第7页 |
第1章 绪论 | 第11-15页 |
1.1 课题背景及意义 | 第11-12页 |
1.2 国内外研究现状 | 第12-13页 |
1.3 论文研究内容 | 第13-14页 |
1.4 论文组织结构 | 第14-15页 |
第2章 实体解析技术研究 | 第15-30页 |
2.1 实体解析 | 第15-25页 |
2.1.1 相关定义及概念 | 第15-16页 |
2.1.2 实体解析处理过程 | 第16-17页 |
2.1.3 实体解析度量方法 | 第17-21页 |
2.1.4 实体解析方法分析 | 第21-25页 |
2.2 不确定数据流计算 | 第25-27页 |
2.2.1 数据流概念 | 第25-26页 |
2.2.2 应用领域 | 第26-27页 |
2.3 不确定数据流的实体解析 | 第27-29页 |
2.4 本章小结 | 第29-30页 |
第3章 单机增量式实体解析 | 第30-37页 |
3.1 单机增量式处理框架 | 第30-31页 |
3.2 算法描述 | 第31-33页 |
3.2.1 Inc-Join算法 | 第31-32页 |
3.2.2 数据预处理 | 第32-33页 |
3.2.3 数据验证 | 第33页 |
3.3 索引优化 | 第33-36页 |
3.3.1 问题描述 | 第33-34页 |
3.3.2 优化方法 | 第34-36页 |
3.4 本章小结 | 第36-37页 |
第4章 基于集群的并行增量式实体解析 | 第37-53页 |
4.1 流式计算框架 | 第37-44页 |
4.1.1 Storm计算框架 | 第37-39页 |
4.1.2 Kafka计算框架 | 第39-41页 |
4.1.3 Spark计算框架 | 第41-44页 |
4.2 基于集群的增量式处理框架 | 第44-47页 |
4.3 基于Spark集群的Inp-Join算法 | 第47-49页 |
4.4 优化配置 | 第49-52页 |
4.4.1 内存调优 | 第49-50页 |
4.4.2 并行度调优 | 第50-51页 |
4.4.3 I/O调优 | 第51页 |
4.4.4 其他方法调优 | 第51-52页 |
4.5 本章小结 | 第52-53页 |
第5章 不确定数据流处理与资源优化评价 | 第53-60页 |
5.1 实验环境 | 第53页 |
5.2 实验结果 | 第53-59页 |
5.2.1 单机实验结果 | 第53-56页 |
5.2.2 并行实验结果 | 第56-59页 |
5.3 本章小结 | 第59-60页 |
第6章 总结与展望 | 第60-62页 |
6.1 论文总结 | 第60-61页 |
6.2 工作展望 | 第61-62页 |
参考文献 | 第62-66页 |
致谢 | 第66-67页 |
攻读硕士期间发表的论文 | 第67页 |