基于Spark的海洋Argo数据查询处理与插值算法的研究与实现
摘要 | 第5-7页 |
ABSTRACT | 第7-8页 |
第1章 绪论 | 第12-16页 |
1.1 研究背景及意义 | 第12-13页 |
1.2 国内外研究现状 | 第13-14页 |
1.3 本文主要工作 | 第14-15页 |
1.4 本文组织结构 | 第15-16页 |
第2章 相关技术 | 第16-34页 |
2.1 Apache Hadoop | 第16-20页 |
2.1.1 MapReduce框架 | 第16-18页 |
2.1.2 Hadoop项目 | 第18-19页 |
2.1.3 HDFS文件系统 | 第19-20页 |
2.1.4 Hadoop缺陷 | 第20页 |
2.2 Spark框架 | 第20-23页 |
2.2.1 弹性分布式数据集 | 第21-22页 |
2.2.2 Spark操作 | 第22页 |
2.2.3 Spark容错机制 | 第22-23页 |
2.3 空间数据 | 第23-28页 |
2.3.1 空间数据特性 | 第23-24页 |
2.3.2 空间数据索引 | 第24-27页 |
2.3.3 空间数据查询类型 | 第27-28页 |
2.4 Argo全球海洋观测网 | 第28页 |
2.4.1 Argo计划概述 | 第28页 |
2.4.2 Argo数据格式 | 第28页 |
2.5 空间插值算法 | 第28-32页 |
2.5.1 空间插值提出 | 第28-29页 |
2.5.2 空间插值原理 | 第29页 |
2.5.3 参考点选取策略 | 第29-30页 |
2.5.4 典型的空间插值算法 | 第30-32页 |
2.6 本章小结 | 第32-34页 |
第3章 基于Spark的Argo数据查询处理框架 | 第34-50页 |
3.1 整体框架 | 第34-36页 |
3.1.1 框架描述 | 第34-35页 |
3.1.2 框架优势 | 第35-36页 |
3.2 索引结构设计 | 第36-44页 |
3.2.1 Argo数据特点及预处理 | 第36-37页 |
3.2.2 Argo数据查询需求 | 第37-39页 |
3.2.3 索引结构设计 | 第39-40页 |
3.2.4 索引构建 | 第40-43页 |
3.2.5 双层网格索引优势 | 第43-44页 |
3.3 基于双层网格索引的并行查询算法 | 第44-49页 |
3.3.1 ID查询 | 第44-46页 |
3.3.2 范围查询 | 第46-49页 |
3.4 本章小结 | 第49-50页 |
第4章 基于Spark的Argo数据插值算法 | 第50-64页 |
4.1 参考点的确定 | 第50-56页 |
4.1.1 混合参考点选取策略 | 第50-51页 |
4.1.2 参考点选取算法 | 第51-56页 |
4.2 空间插值算法 | 第56-62页 |
4.2.1 IDW算法 | 第56-57页 |
4.2.2 普通克里金算法 | 第57-62页 |
4.3 本章小结 | 第62-64页 |
第5章 实验与分析 | 第64-76页 |
5.1 实验环境 | 第64-65页 |
5.1.1 硬件环境 | 第64页 |
5.1.2 软件环境 | 第64页 |
5.1.3 实验数据 | 第64-65页 |
5.1.4 实验内容 | 第65页 |
5.2 并行查询算法 | 第65-70页 |
5.2.1 双层网格索引 | 第65-66页 |
5.2.2 ID查询 | 第66-67页 |
5.2.3 空间范围查询 | 第67-69页 |
5.2.4 时空范围查询 | 第69-70页 |
5.3 并行插值算法 | 第70-74页 |
5.3.1 PIRPS算法 | 第71页 |
5.3.2 混合参考点选取策略 | 第71-72页 |
5.3.3 插值结果精度 | 第72-74页 |
5.4 本章小结 | 第74-76页 |
第6章 总结与展望 | 第76-78页 |
6.1 内容总结 | 第76页 |
6.2 未来展望 | 第76-78页 |
参考文献 | 第78-82页 |
致谢 | 第82-84页 |
攻读硕士期间发表的论文和参加的项目 | 第84页 |