基于HDFS的百度多酷移动游戏数据平台的设计与实现
致谢 | 第5-6页 |
摘要 | 第6-7页 |
ABSTRACT | 第7页 |
序言 | 第8-12页 |
1 引言 | 第12-17页 |
1.1 项目背景 | 第12-13页 |
1.2 项目意义 | 第13-14页 |
1.3 国内外发展现状 | 第14页 |
1.4 项目目标 | 第14-15页 |
1.5 关键问题与技术难点 | 第15页 |
1.6 论文结构 | 第15-16页 |
1.7 本章小结 | 第16-17页 |
2 多酷游戏数据平台相关技术综述 | 第17-26页 |
2.1 HADOOP | 第17-18页 |
2.2 HIVE | 第18页 |
2.3 THRIFT | 第18-19页 |
2.4 SPARK | 第19-22页 |
2.4.1 SparkSQL | 第20-21页 |
2.4.2 Spark-Streaming | 第21-22页 |
2.5 AZKABAN | 第22-23页 |
2.6 KAFKA | 第23-24页 |
2.7 遗传算法 | 第24-25页 |
2.8 本章小结 | 第25-26页 |
3 多酷游戏数据平台需求分析 | 第26-33页 |
3.1 功能需求分析 | 第26-31页 |
3.1.1 今日概况 | 第26-27页 |
3.1.2 今日实时概况 | 第27页 |
3.1.3 实时查询 | 第27-29页 |
3.1.4 配置管理 | 第29-30页 |
3.1.5 ETL流程优化 | 第30-31页 |
3.2 非功能需求分析 | 第31-32页 |
3.3 本章小结 | 第32-33页 |
4 多酷游戏数据平台概要设计 | 第33-45页 |
4.1 系统整体架构设计 | 第33-34页 |
4.2 系统数据流程设计 | 第34-37页 |
4.2.1 离线模块数据流设计 | 第34-35页 |
4.2.2 实时模块数据流设计 | 第35-37页 |
4.3 功能流程设计 | 第37-40页 |
4.3.1 今日概况流程设计 | 第37页 |
4.3.2 今日实时概况流程设计 | 第37-38页 |
4.3.3 实时搜索流程设计 | 第38-39页 |
4.3.4 ETL优化设计 | 第39-40页 |
4.4 多酷游戏数据平台数据表设计 | 第40-44页 |
4.4.1 HIVE表设计 | 第40-43页 |
4.4.2 MySQL表设计 | 第43-44页 |
4.5 本章小结 | 第44-45页 |
5 多酷游戏数据平台详细设计 | 第45-67页 |
5.1 多酷游戏数据平台今日概况模块 | 第45-48页 |
5.1.1 今日概况类设计 | 第45-48页 |
5.1.2 今日概况时序设计 | 第48页 |
5.2 多酷游戏数据平台今日实时概况模块 | 第48-51页 |
5.2.1 今日实时概况类设计 | 第48-50页 |
5.2.2 今日实时概况时序设计 | 第50-51页 |
5.3 多酷游戏数据平台实时查询模块 | 第51-57页 |
5.3.1 配置模块 | 第52页 |
5.3.2 HDFS管理模块 | 第52-53页 |
5.3.3 查询模块 | 第53-54页 |
5.3.4 实时查询类设计 | 第54-55页 |
5.3.5 实时查询时序设计 | 第55-57页 |
5.4 多酷游戏数据平台ETL优化模块 | 第57-66页 |
5.4.1 ETL优化准备工作 | 第58页 |
5.4.2 遗传算法流程设计 | 第58-59页 |
5.4.3 遗传算法编码设计 | 第59-61页 |
5.4.4 遗传算法操作设计 | 第61-62页 |
5.4.5 遗传算法个体评价设计 | 第62-63页 |
5.4.6 ETL优化实现类设计 | 第63-65页 |
5.4.7 ETL优化时序设计 | 第65-66页 |
5.6 本章小结 | 第66-67页 |
6 多酷游戏数据平台测试与验收 | 第67-71页 |
6.1 效果展示 | 第67-68页 |
6.2 系统测试 | 第68-70页 |
6.3 本章小结 | 第70-71页 |
7 结论 | 第71-72页 |
参考文献 | 第72-74页 |
作者简历及攻读硕士学位期间取得的研究成果 | 第74-76页 |
学位论文数据集 | 第76页 |