基于HTTP协议的大容量数据高速采集与分析系统的设计与实现
| 摘要 | 第1-5页 |
| ABSTRACT | 第5-10页 |
| 第一章 绪论 | 第10-14页 |
| ·研究背景和意义 | 第10-11页 |
| ·国内外研究现状 | 第11-12页 |
| ·国外研究现状 | 第11-12页 |
| ·国内研究现状 | 第12页 |
| ·论文主要工作 | 第12-13页 |
| ·论文组织结构 | 第13-14页 |
| 第二章 大容量数据高速采集与分析系统的需求分析 | 第14-22页 |
| ·系统需求分析 | 第14-16页 |
| ·性能需求 | 第14页 |
| ·功能需求 | 第14页 |
| ·用户上网数据包采集与分析模型 | 第14-16页 |
| ·页面浏览情况重点分析数据 | 第16页 |
| ·系统的关键问题 | 第16-21页 |
| ·网络数据包抓取 | 第17-19页 |
| ·页面停留时间的计算 | 第19-21页 |
| ·本章小结 | 第21-22页 |
| 第三章 大容量数据高速采集与分析系统性能优化方法 | 第22-31页 |
| ·性能分析 | 第22页 |
| ·性能优化算法 | 第22-30页 |
| ·大容量数据包存储架构 | 第22-25页 |
| ·高效内存分配与管理算法 | 第25-28页 |
| ·HTTP数据包的快速定位算法 | 第28-30页 |
| ·本章小结 | 第30-31页 |
| 第四章 大容量数据高速采集与分析系统的设计 | 第31-51页 |
| ·系统总体设计 | 第31-35页 |
| ·系统的框架设计 | 第32-34页 |
| ·系统的用户接口 | 第34-35页 |
| ·数据捕获模块 | 第35-36页 |
| ·获取数据的方案 | 第35页 |
| ·数据捕获流程 | 第35-36页 |
| ·工作任务调度分配模块 | 第36-40页 |
| ·工作任务处理线程 | 第36页 |
| ·线程池 | 第36-38页 |
| ·线程同步 | 第38-39页 |
| ·数据流的老化 | 第39-40页 |
| ·用户行为数据包还原 | 第40-45页 |
| ·HTTP协议工作原理 | 第40-43页 |
| ·数据重组还原流程 | 第43-45页 |
| ·文件系统模块 | 第45-48页 |
| ·还原文件硬盘存储机制 | 第46页 |
| ·内嵌网页鉴别算法 | 第46-48页 |
| ·数据库存储 | 第48-50页 |
| ·中心数据库与各采集网关之间的通信 | 第48-49页 |
| ·数据库数据存储表 | 第49-50页 |
| ·本章小结 | 第50-51页 |
| 第五章 大容量数据高速采集与分析系统的实现与测试 | 第51-63页 |
| ·系统部署方案 | 第51页 |
| ·单机处理模式 | 第51页 |
| ·多机处理模式 | 第51页 |
| ·系统的主要数据结构 | 第51-56页 |
| ·数据包解析结构 | 第51-53页 |
| ·高效内存分配与管理结构 | 第53-54页 |
| ·重组还原用户行为数据包结构 | 第54-56页 |
| ·工作任务调度分配的类关系图 | 第56-57页 |
| ·WEB压缩内容传输 | 第57-59页 |
| ·用户上网行为查询监视平台 | 第59页 |
| ·大容量数据高速采集与分析系统的测试 | 第59-62页 |
| ·测试环境 | 第59-60页 |
| ·功能测试 | 第60-62页 |
| ·性能测试 | 第62页 |
| ·本章小结 | 第62-63页 |
| 第六章 总结与展望 | 第63-65页 |
| ·本文总结 | 第63-64页 |
| ·展望与不足 | 第64-65页 |
| 参考文献 | 第65-68页 |
| 致谢 | 第68页 |
