| 摘要 | 第5-6页 |
| ABSTRACT | 第6-7页 |
| 第一章 绪论 | 第15-25页 |
| 1.1 互联网应用的特点 | 第15-18页 |
| 1.1.1 互联网应用 | 第15-16页 |
| 1.1.2 海量数据存储 | 第16-17页 |
| 1.1.3 移动互联网 | 第17-18页 |
| 1.2 云计算 | 第18-20页 |
| 1.2.1 云计算概念 | 第18页 |
| 1.2.2 云计算的特点 | 第18-19页 |
| 1.2.3 云计算服务形式 | 第19-20页 |
| 1.3 研究背景和意义 | 第20-22页 |
| 1.3.1 云平台上日志数据存储 | 第20-21页 |
| 1.3.2 云平台上日志数据的分析 | 第21-22页 |
| 1.4 本文的研究内容 | 第22-23页 |
| 1.5 论文结构 | 第23-25页 |
| 第二章 相关技术基础 | 第25-39页 |
| 2.1 分布式存储 | 第25-30页 |
| 2.1.1 NFS文件系统 | 第25-26页 |
| 2.1.2 AFS和DFS | 第26-27页 |
| 2.1.3 SpriteFS和Zebra | 第27-28页 |
| 2.1.4 xFS文件系统 | 第28-29页 |
| 2.1.5 PVFS文件系统 | 第29-30页 |
| 2.2 并行计算模型 | 第30-33页 |
| 2.2.1 共享存储器计算模型 | 第31-32页 |
| 2.2.2 分布式存储器计算模型 | 第32-33页 |
| 2.3 编程模型 | 第33-37页 |
| 2.3.1 MapReduce编程模型 | 第33-35页 |
| 2.3.2 Dryad编程模型 | 第35页 |
| 2.3.3 HAMA & Pregel编程模型 | 第35-37页 |
| 2.4 本章小结 | 第37-39页 |
| 第三章 HDFS+:基于HDFS的日志存储系统 | 第39-65页 |
| 3.1 引言 | 第39-40页 |
| 3.2 相关技术 | 第40-45页 |
| 3.2.1 HDFS文件系统 | 第40-44页 |
| 3.2.2 并发控制 | 第44-45页 |
| 3.4 HDFS+的设计与实现 | 第45-59页 |
| 3.4.1 设计目标 | 第45-48页 |
| 3.4.2 顺序一致性 | 第48-50页 |
| 3.4.3 HDFS+架构 | 第50-51页 |
| 3.4.4 元数据 | 第51页 |
| 3.4.5 文件逻辑结构 | 第51-52页 |
| 3.4.6 数据分片 | 第52-53页 |
| 3.4.7 并发写 | 第53-56页 |
| 3.4.8 清理进程 | 第56-59页 |
| 3.4.9 读写并发 | 第59页 |
| 3.5 实验和性能 | 第59-64页 |
| 3.5.1 性能分析 | 第60-61页 |
| 3.5.2 远程写性能 | 第61-62页 |
| 3.5.3 本地写性能 | 第62-63页 |
| 3.5.4 读写性能 | 第63-64页 |
| 3.6 本章小结 | 第64-65页 |
| 第四章 Iter-Hadoop迭代计算框架 | 第65-99页 |
| 4.1 引言 | 第65-66页 |
| 4.2 迭代过程分析 | 第66-69页 |
| 4.2.1 迭代过程中数据集的特点 | 第66-68页 |
| 4.2.2 MapReduce迭代过程中计算的特点 | 第68-69页 |
| 4.3 相关工作 | 第69-73页 |
| 4.3.1 MapReduce编程模型 | 第69-70页 |
| 4.3.2 迭代处理模型 | 第70-73页 |
| 4.3.3 前人工作的不足 | 第73页 |
| 4.4 MapReduce效率模型 | 第73-78页 |
| 4.4.1 CPU时间 | 第74-77页 |
| 4.4.2 IO时间 | 第77页 |
| 4.4.3 Framework时间 | 第77-78页 |
| 4.4.4 迭代程序中的CPU时间 | 第78页 |
| 4.5 Iter-Hadoop设计与实现 | 第78-91页 |
| 4.5.1 整体架构 | 第79-81页 |
| 4.5.2 Map阶段优化 | 第81-88页 |
| 4.5.3 Reduce阶段优化 | 第88-91页 |
| 4.6 实验和性能分析 | 第91-97页 |
| 4.6.1 KMeans算法 | 第91-92页 |
| 4.6.2 LR算法 | 第92-93页 |
| 4.6.3 PageRank算法 | 第93-94页 |
| 4.6.4 EET指数对比 | 第94-95页 |
| 4.6.5 缓冲数据比例对性能的影响 | 第95-97页 |
| 4.7 本章小结 | 第97-99页 |
| 第五章 基于MapReduce的增量计算框架 | 第99-109页 |
| 5.1 引言 | 第99页 |
| 5.2 背景及相关工作介绍 | 第99-101页 |
| 5.2.1 研究背景 | 第99-100页 |
| 5.2.2 相关工作 | 第100-101页 |
| 5.3 基于MapReduce的增量计算框架 | 第101-105页 |
| 5.3.1 整体架构 | 第102-103页 |
| 5.3.2 历史信息表 | 第103页 |
| 5.3.3 增量计算 | 第103-104页 |
| 5.3.4 数据合并 | 第104-105页 |
| 5.4 实验及结果分析 | 第105-107页 |
| 5.4.1 WordCount程序 | 第105-106页 |
| 5.4.2 Grep程序 | 第106-107页 |
| 5.4.3 性能分析 | 第107页 |
| 5.5. 本章小结 | 第107-109页 |
| 第六章 结束语 | 第109-111页 |
| 6.1 工作总结 | 第109-110页 |
| 6.2 工作展望 | 第110-111页 |
| 参考文献 | 第111-119页 |
| 致谢 | 第119-121页 |
| 在读期间发表的学术论文与取得的研究成果 | 第121页 |