摘要 | 第5-6页 |
abstract | 第6页 |
第一章 引言 | 第11-15页 |
1.1 项目背景 | 第11-12页 |
1.2 国内外OLAP引擎的发展概况 | 第12-13页 |
1.3 本文主要研究的工作 | 第13-14页 |
1.4 本文的组织结构 | 第14-15页 |
第二章 技术综述 | 第15-21页 |
2.1 Kylin | 第15-18页 |
2.1.1 数据仓库和OLAP中的基本概念 | 第15-16页 |
2.1.2 Kylin中的基本概念 | 第16-18页 |
2.2 Kafka | 第18-20页 |
2.2.1 Kafka的系统设计 | 第18-19页 |
2.2.2 Kafka的应用场景 | 第19-20页 |
2.3 Zookeeper与Curator | 第20页 |
2.4 本章小结 | 第20-21页 |
第三章 Kylin Streaming系统需求分析 | 第21-26页 |
3.1 Kylin现有系统的设计 | 第21-22页 |
3.2 Kylin Streaming系统需求分析 | 第22-25页 |
3.2.1 Streaming Receiver模块 | 第23-24页 |
3.2.2 Streaming Coordinator模块 | 第24页 |
3.2.3 Streaming Cubing Engine模块 | 第24-25页 |
3.3 本章小结 | 第25-26页 |
第四章 Kylin Streaming系统设计 | 第26-46页 |
4.1 系统的整体架构设计 | 第26-27页 |
4.2 Kylin Streaming核心技术的分析与设计 | 第27-38页 |
4.2.1 流式处理系统与批处理系统的比较 | 第27-28页 |
4.2.2 Time Window的划分 | 第28-31页 |
4.2.3 列式存储结构的设计 | 第31-35页 |
4.2.4 高可用性和一致性的设计 | 第35-38页 |
4.3 Kylin Streaming系统各模块设计 | 第38-45页 |
4.3.1 Streaming MetaStore模块的设计 | 第38-40页 |
4.3.2 Streaming Coordinator模块的设计 | 第40-42页 |
4.3.3 Streaming Receiver模块的设计 | 第42-44页 |
4.3.4 Streaming Cubing Engine模块的设计 | 第44-45页 |
4.4 本章小结 | 第45-46页 |
第五章 Kylin Streaming系统模块实现 | 第46-63页 |
5.1 Streaming MetaStore模块的实现 | 第46-47页 |
5.2 Streaming Coordinator模块的实现 | 第47-53页 |
5.2.1 receiver node管理的实现 | 第47-48页 |
5.2.2 cube分配策略的的实现 | 第48-50页 |
5.2.3 Cube Partition Rebalance的实现 | 第50-53页 |
5.3 Streaming Receiver模块的实现 | 第53-58页 |
5.3.1 Streaming Receiver Server的实现 | 第53-54页 |
5.3.2 Streaming Receiver Leader选举算法的实现 | 第54-55页 |
5.3.3 Streaming Consumer的实现 | 第55-58页 |
5.4 Streaming Cubing Engine模块的实现 | 第58-62页 |
5.5 本章小结 | 第62-63页 |
第六章 总结与展望 | 第63-65页 |
6.1 总结 | 第63-64页 |
6.2 进一步工作展望 | 第64-65页 |
参考文献 | 第65-69页 |
致谢 | 第69-71页 |