摘要 | 第5-6页 |
Abstract | 第6页 |
第一章 绪论 | 第9-14页 |
1.1 研究背景与意义 | 第9-10页 |
1.2 分布式文件系统的发展 | 第10-12页 |
1.2.1 AFS和NFS | 第10页 |
1.2.2 SAN和NAS | 第10-11页 |
1.2.3 Lustre和PVFS | 第11-12页 |
1.2.4 开源分布式文件系统 | 第12页 |
1.3 本论文工作 | 第12-13页 |
1.4 本文结构 | 第13-14页 |
第二章 分布式文件系统相关技术研究 | 第14-30页 |
2.1 分布式计算 | 第14-15页 |
2.1.1 分布式计算的工作方式 | 第14-15页 |
2.1.2 为什么需要分布式计算 | 第15页 |
2.1.3 分布式计算的应用范围 | 第15页 |
2.1.4 分布式计算的安全性 | 第15页 |
2.2 分布式文件系统架构 | 第15-17页 |
2.2.1 元数据的存放 | 第16页 |
2.2.2 服务器的结构 | 第16页 |
2.2.3 文件的映射 | 第16-17页 |
2.2.4 客户机的状态 | 第17页 |
2.3 分布式文件系统的关键技术 | 第17-20页 |
2.3.1 统一名字空间 | 第17页 |
2.3.2 锁管理机制 | 第17-18页 |
2.3.3 副本管理机制 | 第18-19页 |
2.3.4 数据存取方式 | 第19页 |
2.3.5 其它 | 第19-20页 |
2.4 HDFS通用性的研究 | 第20-23页 |
2.4.1 小文件的读写 | 第20-21页 |
2.4.2 缓存一致性 | 第21页 |
2.4.3 并发控制 | 第21页 |
2.4.4 访问的高延时 | 第21-22页 |
2.4.5 其它 | 第22-23页 |
2.5 典型分布式文件系统 | 第23-29页 |
2.5.1 HDFS | 第23-25页 |
2.5.2 Lustre | 第25-27页 |
2.5.3 FastDFS | 第27-28页 |
2.5.4 其它 | 第28-29页 |
2.6 本章小结 | 第29-30页 |
第三章 HDFS通用性研究与实现 | 第30-40页 |
3.1 文件读写流程分析 | 第30-34页 |
3.1.1 HDFS读文件 | 第31-32页 |
3.1.2 HDFS写文件 | 第32-34页 |
3.1.3 HDFS小文件读写性能分析 | 第34页 |
3.2 HDFS管理界面的实现 | 第34-37页 |
3.2.1 HDFS Web访问接口 | 第34-35页 |
3.2.2 下载文件 | 第35页 |
3.2.3 删除文件 | 第35-36页 |
3.2.4 上传文件 | 第36-37页 |
3.3 HDFS文件系统的挂载 | 第37-39页 |
3.3.1 WebDAV+Tomcat挂载方法 | 第38页 |
3.3.2 fuse-dfs挂载方法 | 第38-39页 |
3.3.3 两种方法的比较 | 第39页 |
3.4 本章小结 | 第39-40页 |
第四章 HDFS小文件读写改进与实现 | 第40-57页 |
4.1 HDFS小文件读写改进的思路 | 第40-43页 |
4.1.1 HDFS SequenceFile文件 | 第40-43页 |
4.1.2 seqtool工具 | 第43页 |
4.2 seqtool工具基本功能的设计与实现 | 第43-52页 |
4.2.1 支持普通文件与SequenceFile文件之间的转化 | 第46-47页 |
4.2.2 支持归档文件到SequenceFile的转化 | 第47-50页 |
4.2.3 支持追加写 | 第50-52页 |
4.2.4 支持对文件的压缩 | 第52页 |
4.3 SequenceFile随机读取的改进与实现 | 第52-56页 |
4.3.1 随机读取算法 | 第53-55页 |
4.3.2 设计与实现 | 第55-56页 |
4.4 seqtool的编译与使用 | 第56页 |
4.5 本章小结 | 第56-57页 |
第五章 系统性能测试 | 第57-66页 |
5.1 实验目的 | 第57页 |
5.2 实验环境和数据 | 第57-58页 |
5.3 实验设计及结果分析 | 第58-65页 |
5.3.1 文件读写测试 | 第58-63页 |
5.3.2 MapReduce测试 | 第63-65页 |
5.4 本章小结 | 第65-66页 |
结论 | 第66-68页 |
参考文献 | 第68-71页 |
攻读硕士学位期间取得的研究成果 | 第71-72页 |
致谢 | 第72页 |