摘要 | 第5-6页 |
abstract | 第6-7页 |
第一章 绪论 | 第12-17页 |
1.1 研究的背景 | 第12-13页 |
1.2 研究现状 | 第13-14页 |
1.2.1 NoSQL数据库研究现状 | 第13页 |
1.2.2 非结构化数据管理研究现状 | 第13-14页 |
1.3 课题来源 | 第14-15页 |
1.4 本文主要内容及贡献 | 第15页 |
1.5 论文组织 | 第15-17页 |
第二章 非结构化数据管理各模块关键技术介绍 | 第17-28页 |
2.1 非结构化数据管理总体架构 | 第17-18页 |
2.2 元数据管理 | 第18-19页 |
2.2.1 XML元数据管理 | 第18页 |
2.2.2 JSON元数据管理 | 第18-19页 |
2.3 数据采集 | 第19-20页 |
2.3.1 名词解释 | 第19页 |
2.3.2 实时增量采集技术 | 第19-20页 |
2.3.3 非结构化数据ETL技术 | 第20页 |
2.4 数据存储 | 第20-22页 |
2.4.1 OS文件系统存储非结构化数据 | 第20-21页 |
2.4.2 分布式文件系统存储非结构化数据 | 第21页 |
2.4.3 关系型数据库存储非结构化数据 | 第21页 |
2.4.4 非结构化数据库存储非结构化数据 | 第21-22页 |
2.4.5 关系型数据库结合文件系统存储非结构化数据 | 第22页 |
2.4.6 XML、JSON存储非结构化数据 | 第22页 |
2.5 数据处理 | 第22-27页 |
2.5.1 文本分析 | 第23-24页 |
2.5.1.1 分类算法 | 第23页 |
2.5.1.2 聚类算法 | 第23-24页 |
2.5.2 数据检索 | 第24-26页 |
2.5.2.1 基于元数据的检索 | 第24页 |
2.5.2.2 全文检索 | 第24-26页 |
2.5.3 在线预览 | 第26-27页 |
2.5.3.1 Flash在线预览非结构化数据 | 第26页 |
2.5.3.2 Html5标准 | 第26-27页 |
2.5.3.3 Html原样输出 | 第27页 |
2.6 本章小结 | 第27-28页 |
第三章 系统需求 | 第28-33页 |
3.1 系统介绍 | 第28页 |
3.2 系统应用场景分析 | 第28-29页 |
3.3 系统参与者 | 第29-30页 |
3.4 系统功能需求 | 第30-31页 |
3.5 系统性能需求 | 第31-32页 |
3.6 本章小结 | 第32-33页 |
第四章 系统设计 | 第33-65页 |
4.1 系统总体架构设计 | 第33页 |
4.2 系统存储设计 | 第33-42页 |
4.2.1 HDFS介绍 | 第35-36页 |
4.2.2 关系数据库的瓶颈 | 第36-37页 |
4.2.3 关系数据库模型存储非结构化数据 | 第37-39页 |
4.2.4 MongoDB文档模型存储非结构化数据 | 第39-42页 |
4.3 系统应用功能设计 | 第42-53页 |
4.3.1 用户登录及注册功能设计 | 第42-43页 |
4.3.2 数据采集模块设计 | 第43-47页 |
4.3.2.1 上传功能设计 | 第43-44页 |
4.3.2.2 数据源添加及主动采集功能设计 | 第44-45页 |
4.3.2.3 数据采集协调器设计 | 第45-47页 |
4.3.3 查询功能设计 | 第47-50页 |
4.3.3.1 MongoDB分页优化 | 第48-50页 |
4.3.4 删除功能设计 | 第50页 |
4.3.5 下载功能设计 | 第50-51页 |
4.3.6 分类定制功能设计 | 第51-52页 |
4.3.7 标签管理功能设计 | 第52-53页 |
4.4 系统应用服务接口设计 | 第53-55页 |
4.4.1 服务发布设计 | 第53-54页 |
4.4.2 服务调用设计 | 第54-55页 |
4.5 统计分析功能设计 | 第55-56页 |
4.6 系统性能设计 | 第56-60页 |
4.6.1 扩展性设计 | 第56-57页 |
4.6.2 MongoDB数据块迁移优化 | 第57-59页 |
4.6.3 高可用性设计 | 第59-60页 |
4.7 应用层数据库设计 | 第60-64页 |
4.8 本章小结 | 第64-65页 |
第五章 系统实现 | 第65-84页 |
5.1 MongoDB物理部署 | 第65-67页 |
5.2 应用功能实现 | 第67-77页 |
5.2.1 用户登录及注册功能实现 | 第67-68页 |
5.2.2 数据采集模块实现 | 第68-73页 |
5.2.2.1 主动采集实现 | 第68-70页 |
5.2.2.2 数据转换实现 | 第70-72页 |
5.2.2.3 数据采集优化 | 第72-73页 |
5.2.3 查询功能实现 | 第73-77页 |
5.2.3.1 ElasticSearch相关度计分方法优化 | 第75-77页 |
5.3 应用服务接口实现 | 第77-80页 |
5.4 统计分析功能实现 | 第80-83页 |
5.4.1 Kmeans算法实现基于热度的文件分类 | 第80-83页 |
5.5 本章小结 | 第83-84页 |
第六章 测试 | 第84-90页 |
6.1 MongoDB与HDFS性能测试 | 第84-87页 |
6.1.1 测试环境 | 第84-85页 |
6.1.1.1 测试网络拓扑图 | 第84页 |
6.1.1.2 硬件环境 | 第84-85页 |
6.1.1.3 软件环境 | 第85页 |
6.1.2 测试设计 | 第85-86页 |
6.1.3 测试结果及分析 | 第86-87页 |
6.2 MongoDB与关系数据库性能测试 | 第87-89页 |
6.2.1 测试环境 | 第87页 |
6.2.1.1 硬件环境 | 第87页 |
6.2.1.2 软件环境 | 第87页 |
6.2.2 测试设计 | 第87-88页 |
6.2.3 测试结果及分析 | 第88-89页 |
6.3 本章小结 | 第89-90页 |
第七章 总结与展望 | 第90-92页 |
7.1 总结 | 第90-91页 |
7.2 展望 | 第91-92页 |
致谢 | 第92-93页 |
参考文献 | 第93-95页 |
攻读硕士学位期间取得的成果 | 第95-96页 |