基于Hadoop和HBase的网络流量分析系统设计与实现
摘要 | 第2-3页 |
Abstract | 第3-4页 |
1 绪论 | 第7-16页 |
1.1 网络流量 | 第7页 |
1.2 Hadoop | 第7-11页 |
1.2.1 Hadoop特点 | 第8-9页 |
1.2.2 HDFS | 第9页 |
1.2.3 在网络流量分析上的应用 | 第9-11页 |
1.3 HBase | 第11-14页 |
1.3.1 HBase的架构 | 第11-12页 |
1.3.2 HBase的表结构 | 第12-14页 |
1.4 ZooKeeper | 第14页 |
1.5 大数据可视化分析 | 第14-16页 |
2 系统总体设计 | 第16-18页 |
3 分布式系统平台的实现 | 第18-27页 |
3.1 分布式系统平台所需组件 | 第18-20页 |
3.2 集群的实现 | 第20-24页 |
3.2.1 Hadoop集群 | 第20页 |
3.2.2 HBase集群 | 第20-23页 |
3.2.3 Zookeeper集群 | 第23页 |
3.2.4 Thrift | 第23-24页 |
3.3 系统平台验证 | 第24-25页 |
3.4 本章小结 | 第25-27页 |
4 数据包捕获的实现 | 第27-33页 |
4.1 网络流量数据的特点 | 第27-28页 |
4.2 程序设计 | 第28-31页 |
4.2.1 获取数据包信息 | 第29-30页 |
4.2.2 生成待写入数据 | 第30页 |
4.2.3 写入数据 | 第30-31页 |
4.3 数据包捕获功能实现 | 第31-32页 |
4.4 本章小结 | 第32-33页 |
5 数据存储的实现 | 第33-38页 |
5.1 存储设计 | 第33-35页 |
5.1.1 表结构设计 | 第33-34页 |
5.1.2 RowKey设计 | 第34页 |
5.1.3 列族参数 | 第34-35页 |
5.2 存储功能实现 | 第35-36页 |
5.3 设计特点 | 第36-37页 |
5.4 本章小结 | 第37-38页 |
6 数据分析的实现 | 第38-42页 |
6.1 获取数据 | 第38页 |
6.2 基于熵的可视化分析 | 第38-40页 |
6.3 三维散点图可视化设计 | 第40-41页 |
6.3.1 图形选择 | 第40页 |
6.3.2 交互技术 | 第40-41页 |
6.3.3 设计实现 | 第41页 |
6.4 本章小结 | 第41-42页 |
7 系统测试 | 第42-47页 |
7.1 测试环境 | 第42页 |
7.2 Hadoop性能测试 | 第42-44页 |
7.3 HBase性能测试 | 第44-47页 |
结论 | 第47-48页 |
参考文献 | 第48-50页 |
附录A 数据包捕获及写入程序 | 第50-60页 |
致谢 | 第60-62页 |