基于纠删码的分布式文件系统数据块管理技术研究
| 摘要 | 第5-6页 |
| ABSTRACT | 第6页 |
| 第一章 绪论 | 第10-15页 |
| 1.1 研究工作的背景与意义 | 第10-11页 |
| 1.2 研究对象及其发展现状 | 第11-13页 |
| 1.3 本文的主要贡献与创新 | 第13-14页 |
| 1.4 本文的组织结构 | 第14-15页 |
| 第二章 关键技术理论 | 第15-30页 |
| 2.1 分布式文件系统中的数据块管理 | 第15-18页 |
| 2.1.1 分布式文件系统概览 | 第15-16页 |
| 2.1.2 HDFS架构与块管理方式 | 第16-18页 |
| 2.2 纠删码技术原理 | 第18-23页 |
| 2.2.1 纠删码的理论基础 | 第18-19页 |
| 2.2.2 有限域上的代数运算 | 第19-21页 |
| 2.2.3 Reed-Solomon编码 | 第21-23页 |
| 2.3 纠删码在分布存储中的应用 | 第23-29页 |
| 2.3.1 应用方案与价值 | 第23-24页 |
| 2.3.2 HDFS-RAID设计分析 | 第24-27页 |
| 2.3.3 其它系统的解决方案与不足 | 第27-29页 |
| 2.4 本章小结 | 第29-30页 |
| 第三章 相关方案、算法的研究 | 第30-45页 |
| 3.1 设计原则与技术方案权衡 | 第30-34页 |
| 3.1.1 设计原则与目标 | 第30-31页 |
| 3.1.2 数据块的连续式布局与条带式布局 | 第31-33页 |
| 3.1.3 在线编码与离线编码 | 第33-34页 |
| 3.1.4 跨文件分组与文件内分组 | 第34页 |
| 3.2 数据块状态抽象 | 第34-37页 |
| 3.2.1 数据块状态定义 | 第35-36页 |
| 3.2.2 数据块状态迁移 | 第36-37页 |
| 3.3 块重分布算法 | 第37-40页 |
| 3.3.1 纠删码对数据块分布的要求 | 第37-38页 |
| 3.3.2 基于二分匹配的块分布算法 | 第38-39页 |
| 3.3.3 小规模集群的分布策略 | 第39-40页 |
| 3.4 动态副本策略 | 第40-43页 |
| 3.4.1 数据实时热度的衡量 | 第40-42页 |
| 3.4.2 副本调节方法 | 第42-43页 |
| 3.5 本章小结 | 第43-45页 |
| 第四章 原型系统的设计与实现 | 第45-69页 |
| 4.1 纠删码分组抽象与管理 | 第45-50页 |
| 4.1.1 创建新分组 | 第46-47页 |
| 4.1.2 加载已有分组 | 第47-48页 |
| 4.1.3 序列化与反序列化 | 第48-50页 |
| 4.2 分组的并行读取与修复 | 第50-56页 |
| 4.2.1 修复处理单元 | 第50-51页 |
| 4.2.2 处理单元并行读取 | 第51-53页 |
| 4.2.3 分布式修复任务 | 第53-56页 |
| 4.3 编码状态检查与维护 | 第56-61页 |
| 4.3.1 触发式编组 | 第56-57页 |
| 4.3.2 分组扫描例程 | 第57-58页 |
| 4.3.3 状态迁移回调 | 第58-61页 |
| 4.4 已编码块重分布 | 第61-65页 |
| 4.4.1 二分图模型构建 | 第61-64页 |
| 4.4.2 匹配算法实现 | 第64-65页 |
| 4.5 动态副本调节 | 第65-68页 |
| 4.5.1 数据热度感知 | 第65-66页 |
| 4.5.2 副本实时调节 | 第66-68页 |
| 4.6 本章小结 | 第68-69页 |
| 第五章 系统分析与测试 | 第69-76页 |
| 5.1 测试环境简述 | 第69页 |
| 5.2 存储效率分析与验证 | 第69-71页 |
| 5.3 动态副本策略效果测试 | 第71-72页 |
| 5.4 进一步性能测试 | 第72-75页 |
| 5.4.1 TestDFSIO基准测试 | 第72-74页 |
| 5.4.2 计算密集型作业测试 | 第74-75页 |
| 5.5 本章小结 | 第75-76页 |
| 第六章 总结与展望 | 第76-78页 |
| 致谢 | 第78-79页 |
| 参考文献 | 第79-83页 |
| 攻读硕士学位期间取得的成果 | 第83-84页 |
