摘要 | 第1-6页 |
ABSTRACT | 第6-9页 |
第一章 绪论 | 第9-13页 |
·课题背景 | 第9页 |
·课题任务 | 第9-12页 |
·论文的组织结构 | 第12-13页 |
第二章 HADOOP平台介绍与关键技术分析 | 第13-24页 |
·分布式框架HADOOP介绍 | 第13-17页 |
·什么是HADOOP | 第13页 |
·HADOOP框架的主要组成部分 | 第13-16页 |
·MAP-REDUCE编程模型 | 第16-17页 |
·HADOOP特性介绍 | 第17-18页 |
·HADOOP STREAMING技术的工作原理 | 第18-20页 |
·FS SHELL介绍 | 第20-21页 |
·BLOOM FILTER工作原理介绍 | 第21-22页 |
·编程语言的选择与对比 | 第22-23页 |
·本章小结 | 第23-24页 |
第三章 DUMP主要业务与需求分析 | 第24-31页 |
·主要库表及其功能描述 | 第24-26页 |
·主要功能需求分析 | 第26-30页 |
·数据导出 | 第26页 |
·多表关联与字段处理 | 第26-27页 |
·关键词数据处理 | 第27-28页 |
·类目数据处理 | 第28-30页 |
·性能需求 | 第30页 |
·本章小结 | 第30-31页 |
第四章 基于HADOOP平台DUMP的设计 | 第31-44页 |
·系统整体结构设计 | 第31-33页 |
·数据流设计 | 第31页 |
·程序调度策略的设计 | 第31页 |
·代码结构的设计 | 第31-32页 |
·数据备份策略设计 | 第32页 |
·异常处理环节的设计 | 第32-33页 |
·核心子模块的设计 | 第33-42页 |
·DUMP子模块的设计 | 第33-34页 |
·JOIN模块的设计 | 第34-36页 |
·关键词处理模块的设计 | 第36-38页 |
·类日处理模块的设计 | 第38-42页 |
·外围数据的引用设计 | 第42-43页 |
·本章小结 | 第43-44页 |
第五章 基于HADOOP平台DUMP核心模块的实现 | 第44-61页 |
·HADOOP平台的搭建与维护 | 第44-47页 |
·HADOOP平台的搭建 | 第44-47页 |
·程序整体调度框架的实现 | 第47-49页 |
·工具类模块的抽象与提取 | 第49-52页 |
·配置文件读取模块 | 第49-50页 |
·公共函数模块的实现 | 第50-51页 |
·Hadoop输出模块 | 第51-52页 |
·核心子模块的实现 | 第52-60页 |
·DUMP模块的实现 | 第52-56页 |
·JOIN模块的实现 | 第56-58页 |
·关键词处理模块的实现 | 第58-59页 |
·类目处理模块的实现 | 第59-60页 |
·本章小结 | 第60-61页 |
第六章 基于HADOOP平台DUMP系统的测试与改进 | 第61-73页 |
·单元测试框架的意义与部署 | 第61-64页 |
·单元测试的意义 | 第61-62页 |
·单元测试框架的部署 | 第62-63页 |
·功能与性能测试情况 | 第63-64页 |
·HADOOP平台的监控 | 第64-66页 |
·文件系统的监控 | 第64-65页 |
·任务监控 | 第65-66页 |
·运行效果与性能优化 | 第66-72页 |
·运行效果与分析 | 第66-67页 |
·HADOOP性能调优策略 | 第67-72页 |
·本章小结 | 第72-73页 |
第七章 结束语 | 第73-75页 |
·论文工作总结 | 第73页 |
·本人所做工作及成果展示 | 第73-74页 |
·问题与展望 | 第74-75页 |
参考文献 | 第75-76页 |
致谢 | 第76页 |