摘要 | 第4-5页 |
ABSTRACT | 第5-6页 |
第一章 绪论 | 第10-16页 |
1.1 研究背景 | 第10-12页 |
1.1.1 课题背景 | 第10-11页 |
1.1.2 数据交换模块的作用和意义 | 第11-12页 |
1.2 国内外研究现状 | 第12-13页 |
1.3 课题研究内容 | 第13-14页 |
1.4 论文结构 | 第14页 |
1.5 本章小结 | 第14-16页 |
第二章 相关关键技术 | 第16-36页 |
2.1 Hadoop | 第16-22页 |
2.1.1 Hadoop的整体结构和功能 | 第16-18页 |
2.1.2 HDFS | 第18-20页 |
2.1.3 MapReduce | 第20-22页 |
2.2 Hadoop提供的数据交换接口 | 第22-25页 |
2.2.1 HDFS和文件系统进行数据交换的接口 | 第23-24页 |
2.2.2 HDFS和关系型数据库进行数据交换的DB接口 | 第24-25页 |
2.3 Sqoop | 第25-27页 |
2.3.1 结构和功能 | 第26页 |
2.3.2 提供的接口 | 第26-27页 |
2.4 FTP | 第27-28页 |
2.4.1 结构和功能 | 第27-28页 |
2.4.2 提供的接口 | 第28页 |
2.5 Java数据库编程接口 | 第28-29页 |
2.6 数据交换工具的实验验证 | 第29-33页 |
2.6.1 实验环境 | 第29-30页 |
2.6.2 实验方法 | 第30-31页 |
2.6.3 实验结果及分析 | 第31-33页 |
2.7 本章小结 | 第33-36页 |
第三章 数据交换模块的需求和设计 | 第36-52页 |
3.1 数据交换模块的需求分析 | 第36-39页 |
3.1.1 整体功能描述 | 第36页 |
3.1.2 具体功能需求描述 | 第36-39页 |
3.2 数据交换模块的总体设计 | 第39-40页 |
3.3 HDFS和本地文件系统之间数据交换的设计 | 第40-42页 |
3.4 HDFS和关系型数据库之间数据交换的设计 | 第42-49页 |
3.4.1 通过DB接口实现HDFS和MySql之间的数据交换 | 第42-44页 |
3.4.2 通过Sqoop实现HDFS和MySql之间的数据交换 | 第44-46页 |
3.4.3 通过FTP实现HDFS和MySql之间的数据交换 | 第46-49页 |
3.5 HDFS和URL之间数据交换的设计 | 第49-51页 |
3.6 本章小结 | 第51-52页 |
第四章 数据交换模块的实现 | 第52-70页 |
4.1 模块的总体实现方案 | 第52-53页 |
4.2 模块的公共实现部分 | 第53-54页 |
4.2.1 类说明 | 第53页 |
4.2.2 方法说明 | 第53-54页 |
4.3 HDFS和本地文件系统之间数据交换的实现 | 第54-56页 |
4.3.1 类说明 | 第55页 |
4.3.2 方法说明 | 第55-56页 |
4.3.3 消息时序图 | 第56页 |
4.4 HDFS和关系型数据库之间数据交换的实现 | 第56-67页 |
4.4.1 公共实现部分 | 第57-58页 |
4.4.2 通过DB接口实现HDFS和MySql之间的数据交换 | 第58-61页 |
4.4.3 通过Sqoop实现HDFS和MySql之间的数据交换 | 第61-63页 |
4.4.4 通过FTP实现HDFS和MySql之间的数据交换 | 第63-67页 |
4.5 HDFS和URL之间数据交换的实现 | 第67-68页 |
4.5.1 类说明 | 第67页 |
4.5.2 方法说明 | 第67页 |
4.5.3 消息时序图 | 第67-68页 |
4.6 本章小结 | 第68-70页 |
第五章 数据交换模块的集成和测试 | 第70-84页 |
5.1 数据交换模块的集成 | 第70-73页 |
5.1.1 数据交换模块调用方式 | 第70页 |
5.1.2 数据交换模块集成到海量数据分析平台中 | 第70-73页 |
5.2 模块集成实现效果 | 第73-76页 |
5.3 HDFS数据导出功能测试 | 第76-79页 |
5.4 HDFS数据导入功能测试 | 第79-82页 |
5.5 本章小结 | 第82-84页 |
第六章 结束语 | 第84-86页 |
6.1 论文工作总结 | 第84-85页 |
6.2 下一步工作展望 | 第85-86页 |
参考文献 | 第86-88页 |
致谢 | 第88页 |