摘要 | 第1-6页 |
ABSTRACT | 第6-9页 |
第1章 绪论 | 第9-14页 |
·研究背景和意义 | 第9-10页 |
·国内外研究现状 | 第10-12页 |
·主要工作及创新点 | 第12-14页 |
第2章 相关技术概述 | 第14-23页 |
·分布式数据采集系统Flume-ng | 第14页 |
·分布式消息缓存系统Kafka | 第14-16页 |
·概要 | 第14-15页 |
·基本架构 | 第15页 |
·基本原理 | 第15-16页 |
·接口实现 | 第16页 |
·分布式存储系统HBase | 第16-18页 |
·概述 | 第16-17页 |
·HBase数据模型 | 第17-18页 |
·分布式数据实时处理系统 | 第18-20页 |
·MapReduce | 第18-19页 |
·Storm | 第19-20页 |
·Spark | 第20页 |
·技术对比 | 第20页 |
·数据查询系统Phoenix | 第20-21页 |
·概述 | 第20-21页 |
·基本特性 | 第21页 |
·基本原理 | 第21页 |
·性能监控系统OpenTsdb | 第21-23页 |
第3章 基于HBase交通卡口数据存储和查询系统设计 | 第23-46页 |
·需求分析 | 第23页 |
·问题分析 | 第23页 |
·项目设计目标 | 第23页 |
·系统设计 | 第23-26页 |
·数据接入层模块设计 | 第26-33页 |
·Flume-ng架构设计 | 第26-29页 |
·平台接入层设计 | 第29-30页 |
·前端采集数据格式 | 第30-31页 |
·配置文件 | 第31-33页 |
·数据缓存层模块设计 | 第33-36页 |
·平台对接设计 | 第33-34页 |
·partition轮询设计 | 第34-36页 |
·数据存储模块设计 | 第36-41页 |
·HBase表设计 | 第36-38页 |
·实时处理Storm设计 | 第38-41页 |
·数据查询模块设计 | 第41-44页 |
·分页查询设计 | 第41-42页 |
·二级索引设计 | 第42-44页 |
·性能指标监控模块设计 | 第44-46页 |
·指标采集脚本 | 第44页 |
·监控系统运行 | 第44-46页 |
第4章 基于HBase的交通卡口数据存储和查询系统实现及性能测试 | 第46-59页 |
·开发环境搭建 | 第46-53页 |
·硬件环境搭建 | 第46-48页 |
·软件环境搭建 | 第48页 |
·集群配置 | 第48-51页 |
·各模块启动 | 第51-53页 |
·测试结果和分析 | 第53-59页 |
·测试环境 | 第53-54页 |
·存储性能测试 | 第54-56页 |
·数据查询性能测试 | 第56-59页 |
第5章 结论与展望 | 第59-61页 |
·论文工作总结 | 第59页 |
·问题与展望 | 第59-61页 |
·采集服务器单点压力问题 | 第59-60页 |
·Kafka性能问题 | 第60-61页 |
参考文献 | 第61-63页 |
附录(一) | 第63-65页 |
附录(二) | 第65-68页 |
附录(三) | 第68-69页 |
附录(四) | 第69-71页 |
致谢 | 第71-72页 |
攻读学位期间参加的科研项目和成果 | 第72页 |