摘要 | 第1-6页 |
ABSTRACT | 第6-12页 |
第一章 绪论 | 第12-16页 |
·研究背景 | 第12-13页 |
·数据集成 | 第12-13页 |
·分布式文件系统 | 第13页 |
·研究意义与目的 | 第13-14页 |
·研究内容 | 第14页 |
·论文组织结构 | 第14-16页 |
第二章 相关技术 | 第16-27页 |
·数据集成 | 第16-20页 |
·联邦式的数据集成模型 | 第16-17页 |
·基于中间件的数据集成模型 | 第17-18页 |
·数据仓库数据集成模型 | 第18-19页 |
·数据集成模型比较 | 第19-20页 |
·分布式文件系统 | 第20-25页 |
·NFS | 第20-21页 |
·AFS | 第21页 |
·COda | 第21-22页 |
·xFS | 第22页 |
·Lustre | 第22-23页 |
·GoogleFS | 第23-25页 |
·Map/Reduce并行计算模型 | 第25-26页 |
·小结 | 第26-27页 |
第三章 BoC-DFS:基于容器的分布式文件存储系统 | 第27-37页 |
·BoC-DFS分布式文件存储系统的设计目标 | 第27页 |
·基于容器的分布式文件系统体系架构 | 第27-30页 |
·主节点NameNode | 第28-29页 |
·存储节点DataNode | 第29页 |
·节点间通信 | 第29-30页 |
·容器的设计 | 第30-32页 |
·容器的来由 | 第30-31页 |
·容器的定义 | 第31-32页 |
·容器大小的设定 | 第32页 |
·文件的标识与两段锁 | 第32-33页 |
·文件的操作方法 | 第33-36页 |
·读取文件 | 第33-34页 |
·更新文件 | 第34-35页 |
·新建文件 | 第35-36页 |
·删除文件 | 第36页 |
·本章小结 | 第36-37页 |
第四章 小文件应用Map/Reduce并行计算模型的解决方案 | 第37-42页 |
·数据集成应用系统中原始数据的特点 | 第37页 |
·文件规模与Map/Reduce效率 | 第37-39页 |
·现用方案与存在的问题 | 第39-40页 |
·利用SequenceFile解决方案 | 第40-41页 |
·本章小结 | 第41-42页 |
第五章 基于分布式文件存储的个人信息融合系统 | 第42-66页 |
·个人信息融合系统介绍 | 第42页 |
·系统的总体需求 | 第42-43页 |
·信息系统数据集成中的难点与要点 | 第43-44页 |
·多源异构的个人信息数据集成 | 第44-47页 |
·个人信息数据集成介绍 | 第44页 |
·个体识别算法 | 第44-46页 |
·集成目标数据模型 | 第46-47页 |
·个人信息融合系统的系统流程 | 第47-48页 |
·系统的总体架构 | 第48-49页 |
·系统各层次功能模块 | 第49-52页 |
·系统应用层部分 | 第49-50页 |
·系统核心业务层部分 | 第50-51页 |
·数据访问服务层部分 | 第51页 |
·数据存储及管理层部分 | 第51-52页 |
·分布式文件管理模块 | 第52-57页 |
·BoC-DFS类图 | 第52-54页 |
·文件的读操作 | 第54-55页 |
·文件的写操作 | 第55-57页 |
·并行处理模块 | 第57-65页 |
·并行计算部署流程 | 第57-58页 |
·创建Sequence File | 第58-60页 |
·读取Sequence File | 第60-62页 |
·SequenceFile的输入格式化 | 第62-63页 |
·文件类型与InputFormat类图 | 第63-64页 |
·Map/Reduce计算Job部署 | 第64-65页 |
·本章小结 | 第65-66页 |
第六章 系统的部署与验证 | 第66-75页 |
·现系统结构与原系统结构的比较 | 第66-67页 |
·基于分布式文件存储的个人信息融合系统部署 | 第67-68页 |
·系统的实验环境 | 第68-69页 |
·硬件环境 | 第68页 |
·软件环境 | 第68-69页 |
·Map/Reduce并行计算环境——hadoop的配置 | 第69-70页 |
·SSH配置 | 第69页 |
·Slaves与Master配置 | 第69页 |
·NameNode与数据节点的配置 | 第69-70页 |
·运用并行计算的执行效率对比 | 第70页 |
·应用系统展示 | 第70-75页 |
·分布式文件系统BoC-DFS | 第70-72页 |
·个人信息融合系统 | 第72-75页 |
第七章 总结与展望 | 第75-77页 |
参考文献 | 第77-79页 |
致谢 | 第79-81页 |
攻读学位期间发表的学术论文 | 第81页 |