基于Spark的PostgreSQL数据分析扩展中间件的研究
| 摘要 | 第4-5页 |
| abstract | 第5页 |
| 第一章 引言 | 第12-22页 |
| 1.1 研究背景及意义 | 第12-14页 |
| 1.2 研究现状 | 第14-18页 |
| 1.2.1 MPP数据库 | 第14-15页 |
| 1.2.2 SQL-on-Hadoop | 第15-17页 |
| 1.2.3 Spark SQL | 第17-18页 |
| 1.3 本文工作 | 第18-21页 |
| 1.4 论文结构 | 第21-22页 |
| 第二章 相关技术介绍 | 第22-28页 |
| 2.1 PostgreSQL数据库 | 第22-23页 |
| 2.2 Spark分布式计算框架 | 第23-25页 |
| 2.2.1 Spark架构 | 第23-24页 |
| 2.2.2 Spark MLlib | 第24-25页 |
| 2.2.3 Spark-Shell | 第25页 |
| 2.3 通信技术 | 第25-27页 |
| 2.3.1 Thrift | 第25-26页 |
| 2.3.2 ZeroMQ | 第26-27页 |
| 2.4 本章小结 | 第27-28页 |
| 第三章 互操作的中间件机制 | 第28-36页 |
| 3.1 中间件的提出 | 第28-30页 |
| 3.2 中间件的设计 | 第30-34页 |
| 3.2.1 通信协议 | 第30-32页 |
| 3.2.2 接口设计 | 第32-33页 |
| 3.2.3 数据传输 | 第33页 |
| 3.2.4 消息处理 | 第33-34页 |
| 3.3 中间件的管理 | 第34-35页 |
| 3.3.1 一对一模式 | 第34页 |
| 3.3.2 多对多模式 | 第34-35页 |
| 3.4 本章小结 | 第35-36页 |
| 第四章 系统设计与实现 | 第36-47页 |
| 4.1 系统架构设计 | 第36-38页 |
| 4.1.1 系统整体设计 | 第36-37页 |
| 4.1.2 系统执行流程 | 第37-38页 |
| 4.2 Dex中间件 | 第38-42页 |
| 4.2.1 通信实现 | 第38-39页 |
| 4.2.2 接口实现 | 第39-40页 |
| 4.2.3 数据传输 | 第40-41页 |
| 4.2.4 数据处理 | 第41-42页 |
| 4.3 PostgreSQL扩展接口 | 第42-44页 |
| 4.3.1 数据表设计 | 第42页 |
| 4.3.2 消息交互 | 第42-43页 |
| 4.3.3 数据获取 | 第43-44页 |
| 4.4 Spark扩展接口 | 第44-46页 |
| 4.4.1 连接设计 | 第44页 |
| 4.4.2 交互式设计 | 第44-45页 |
| 4.4.3 DexDataFrame设计 | 第45-46页 |
| 4.5 本章小结 | 第46-47页 |
| 第五章 系统性能分析 | 第47-54页 |
| 5.1 系统可用性 | 第47-48页 |
| 5.2 KMEANS的性能分析 | 第48-51页 |
| 5.2.1 MADLIB简介 | 第48页 |
| 5.2.2 数据集 | 第48-49页 |
| 5.2.3 数据处理 | 第49页 |
| 5.2.4 性能分析 | 第49-51页 |
| 5.3 公交WIFI内容推荐 | 第51-53页 |
| 5.3.1 数据集 | 第51页 |
| 5.3.2 数据处理 | 第51-52页 |
| 5.3.3 性能分析 | 第52-53页 |
| 5.4 本章小结 | 第53-54页 |
| 第六章 结束语 | 第54-56页 |
| 6.1 本文工作总结 | 第54-55页 |
| 6.2 下一步研究方向 | 第55-56页 |
| 参考文献 | 第56-58页 |
| 致谢 | 第58-59页 |
| 作者简介 | 第59页 |