首页--工业技术论文--自动化技术、计算机技术论文--计算技术、计算机技术论文--计算机软件论文--程序设计、软件工程论文--程序设计论文

基于Hadoop的网络海量数据采集及处理平台开发

摘要第1-6页
ABSTRACT第6-8页
目录第8-10页
第一章 绪论第10-12页
   ·本文的研究背景第10页
   ·本文的研究工作第10-11页
   ·本文的组织结构第11-12页
第二章 系统方案综述第12-15页
   ·系统架构和特征第12-14页
   ·系统设计面临的挑战第14页
   ·本章小结第14-15页
第三章 系统相关技术第15-24页
   ·海量数据存储技术第15-18页
     ·硬盘相关技术研究第15-16页
     ·磁盘阵列相关技术研究第16-18页
   ·Oracle 11g数据库概述第18-21页
     ·Oracle数据库体系结构第18-19页
     ·Oracle真正应用集群第19-21页
   ·Hadoop整体架构第21-23页
     ·Hadoop分布式文件系统第21-22页
     ·MapReduce编程模型第22-23页
     ·Hadoop子项目Pig第23页
     ·Hadoop中DBInputFormat和DBOutputFormat第23页
   ·本章小结第23-24页
第四章 系统功能模块设计第24-47页
   ·数据包采集模块第24-32页
     ·TCP/IP协议族第24-26页
     ·Linux内核网络结构第26页
     ·网卡工作模式第26-27页
     ·Libpcap数据包捕获函数库第27-28页
     ·模块技术实现第28-32页
   ·海量数据加载模块第32-35页
     ·硬件结构第32-33页
     ·模块实现方案第33-35页
   ·海量数据表更新模块第35-46页
     ·Oracle数据块结构分析第35-36页
     ·Oracle rowid第36-38页
     ·批量绑定(BULK BINDS)第38页
     ·哈希第38-39页
     ·更新测试第39-42页
     ·测试分析第42-43页
     ·流分析第43-44页
     ·海量数据表更新方案第44-46页
   ·本章小结第46-47页
第五章 海量数据采集处理系统详细方案第47-62页
   ·系统设计方案第47页
   ·系统设计原则第47-48页
   ·高速数据包捕获子系统第48-51页
     ·数据速率第48-49页
     ·时间戳第49页
     ·第一级存储第49-50页
     ·记录集第50-51页
   ·海量数据库集群子系统第51-54页
     ·集群硬件环境第52页
     ·集群软件环境第52页
     ·集群网络规划第52-53页
     ·集群时间同步第53页
     ·数据库文件存储设计第53-54页
   ·离线数据处理子系统第54页
   ·流量分析设计与实现第54-61页
     ·平台技术第55页
     ·流量分析第55-61页
   ·本章小结第61-62页
第六章 总结与展望第62-63页
参考文献第63-66页
致谢第66-67页
攻读硕士学位期间发表的学术论文目录第67页

论文共67页,点击 下载论文
上一篇:彩铃深度运营平台个性化服务子系统的设计与实现
下一篇:基于JSP的网上购物系统研究与设计