摘要 | 第4-5页 |
Abstract | 第5-6页 |
第1章 绪论 | 第10-16页 |
1.1 研究背景 | 第10-11页 |
1.2 国内外研究现状 | 第11-14页 |
1.2.1 大数据应用于智能公交技术的国内外研究现状 | 第11-12页 |
1.2.2 Hadoop的国内外研究现状 | 第12-14页 |
1.3 论文内容和组织结构 | 第14页 |
1.4 课题来源 | 第14-16页 |
第2章 Hadoop海量数据处理技术 | 第16-22页 |
2.1 Hadoop关键技术 | 第16-20页 |
2.1.1 HDFS分布式数据存储技术 | 第16-18页 |
2.1.2 MapReduce分布式处理技术 | 第18-20页 |
2.2 基于Hadoop的公交物联网海量采集数据存储平台难点 | 第20页 |
2.2.1 海量GPS日志数据读写性能问题 | 第20页 |
2.2.2 海量视频文件的转码效率问题 | 第20页 |
2.3 本章小结 | 第20-22页 |
第3章 公交物联网平台架构 | 第22-30页 |
3.1 数据采集层 | 第23-25页 |
3.2 业务处理层 | 第25-26页 |
3.3 Hadoop平台层 | 第26-29页 |
3.3.1 Hadoop日志存储管理系统 | 第26-27页 |
3.3.2 Hadoop视频存储转码系统 | 第27-29页 |
3.4 本章小结 | 第29-30页 |
第4章 基于Hadoop的公交物联网GPS日志存储管理系统 | 第30-54页 |
4.1 总体设计 | 第30-32页 |
4.2 存储映射模块 | 第32-38页 |
4.2.1 数据存储模型 | 第32-33页 |
4.2.2 存储层次划分 | 第33-36页 |
4.2.3 文件存储结构 | 第36-38页 |
4.3 元数据管理模块 | 第38-39页 |
4.4 Hive数据加载模块 | 第39-41页 |
4.5 查询处理模块 | 第41-43页 |
4.5.1 自定义Input Format | 第41页 |
4.5.2 Hive数据查询 | 第41-42页 |
4.5.3 查询结果分析 | 第42-43页 |
4.6 节点存储管理模块 | 第43-46页 |
4.6.1 节点性能评估方法 | 第43-44页 |
4.6.2 存储节点选择方法 | 第44-46页 |
4.6.3 小文件块处理 | 第46页 |
4.7 实验与系统评估 | 第46-53页 |
4.7.1 实验环境与测试数据 | 第46-48页 |
4.7.2 实验结果与系统评估 | 第48-53页 |
4.8 本章小结 | 第53-54页 |
第5章 基于Hadoop的公交物联网分布式视频存储转码系统 | 第54-76页 |
5.1 总体设计 | 第54-55页 |
5.2 视频文件传输与存储 | 第55-57页 |
5.3 分布式视频转码处理过程 | 第57-62页 |
5.3.1 Map阶段 | 第59-61页 |
5.3.2 Reduce阶段 | 第61-62页 |
5.4 FFmpeg视频处理 | 第62-67页 |
5.4.1 FFmpeg视频切割 | 第63-64页 |
5.4.2 FFmpeg视频转码 | 第64-67页 |
5.4.3 FFmpeg视频合并 | 第67页 |
5.5 HDFS视频文件操作 | 第67-70页 |
5.5.1 节点间视频文件传输 | 第67-68页 |
5.5.2 视频文件压缩 | 第68-69页 |
5.5.3 视频文件访问 | 第69-70页 |
5.6 实验与系统评估 | 第70-75页 |
5.6.1 实验环境与测试数据 | 第70-72页 |
5.6.2 实验结果与系统评估 | 第72-75页 |
5.7 本章小结 | 第75-76页 |
结论 | 第76-78页 |
参考文献 | 第78-82页 |
攻读硕士学位期间所取得的学术成果 | 第82-84页 |
致谢 | 第84页 |