摘要 | 第3-4页 |
ABSTRACT | 第4页 |
第一章 绪论 | 第8-13页 |
1.1 研究背景 | 第8-9页 |
1.2 国内外研究现状 | 第9-11页 |
1.2.1 大数据与云平台技术研究现状 | 第9-10页 |
1.2.2 钻井工程信息化技术研究现状 | 第10页 |
1.2.3 大数据与云平台应用于石油钻井行业的研究现状 | 第10-11页 |
1.3 论文的主要研究内容 | 第11-12页 |
1.4 论文组织结构 | 第12-13页 |
第二章 基于HADOOP的数据分析相关技术简介 | 第13-24页 |
2.1 Hadoop平台简介 | 第13-14页 |
2.2 分布式文件系统HDFS | 第14-15页 |
2.2.1 HDFS体系结构 | 第14-15页 |
2.2.2 HDFS主要特征 | 第15页 |
2.3 分布式存储系统HBase | 第15-19页 |
2.3.1 HBase的系统架构 | 第15-16页 |
2.3.2 HBase的数据模型 | 第16-17页 |
2.3.3 HBase数据存储过程 | 第17-18页 |
2.3.4 HBase数据查询过程 | 第18-19页 |
2.4 数据迁移工具Sqoop | 第19-20页 |
2.4.1 Sqoop数据导入过程 | 第19-20页 |
2.4.2 Sqoop数据采集的特点 | 第20页 |
2.5 分布式计算框架Map Reduce | 第20-23页 |
2.5.1 Map Reduce架构 | 第20-22页 |
2.5.2 Map Reduce数据分析处理过程 | 第22-23页 |
2.6 本章小结 | 第23-24页 |
第三章 基于HADOOP的钻井工程实时数据分析系统的设计 | 第24-44页 |
3.1 系统设计目标 | 第24-26页 |
3.1.1 系统功能目标 | 第24-25页 |
3.1.2 数据存储目标 | 第25页 |
3.1.3 数据分析目标 | 第25-26页 |
3.2 系统总体架构设计 | 第26-28页 |
3.3 数据存储设计 | 第28-35页 |
3.3.1 数据来源 | 第28页 |
3.3.2 HRegion预分区算法 | 第28-29页 |
3.3.3 基于HBase的钻井工程历史数据库的Row Key设计 | 第29-30页 |
3.3.4 基于HBase的钻井工程历史数据库设计 | 第30-33页 |
3.3.5 数据导入设计 | 第33-35页 |
3.4 数据分析设计 | 第35-41页 |
3.4.1 数据分析概述 | 第35-36页 |
3.4.2 二次排序算法 | 第36-38页 |
3.4.3 钻井工程数据二级索引表设计 | 第38-40页 |
3.4.4 检索结果优化设计 | 第40-41页 |
3.5 系统功能模块设计 | 第41-43页 |
3.6 本章小结 | 第43-44页 |
第四章 基于HADOOP的钻井工程实时数据分析系统的实现 | 第44-61页 |
4.1 系统环境准备 | 第44-47页 |
4.1.1 系统开发环境 | 第44页 |
4.1.2 Hadoop集群软硬件环境 | 第44-45页 |
4.1.3 Hadoop集群服务部署 | 第45-46页 |
4.1.4 集群运行状态 | 第46-47页 |
4.2 数据准备 | 第47-49页 |
4.2.1 传统关系数据库数据导入的实现 | 第47-48页 |
4.2.2 文本文件数据导入的实现 | 第48-49页 |
4.3 基于Map Reduce钻井数据分析的实现 | 第49-52页 |
4.3.1 钻井工程数据二级索引的实现 | 第49-51页 |
4.3.2 钻井工程数据检索结果优化分析的实现 | 第51-52页 |
4.4 系统软件实现 | 第52-58页 |
4.4.1 软件总体架构 | 第52-53页 |
4.4.2 应用Struts框架创建基于Hadoop的钻井工程实时数据分析系统 | 第53-55页 |
4.4.3 运行实例界面 | 第55-58页 |
4.5 系统测试 | 第58-60页 |
4.5.1 测试过程设计 | 第58页 |
4.5.2 系统测试和结果分析 | 第58-60页 |
4.6 本章小结 | 第60-61页 |
第五章 总结与展望 | 第61-63页 |
5.1 总结 | 第61页 |
5.2 展望 | 第61-63页 |
致谢 | 第63-64页 |
参考文献 | 第64-66页 |
攻读硕士学位期间发表的论文 | 第66-67页 |