大数据应用中数据唯一性质量检测关键技术研究
| 摘要 | 第5-6页 |
| Abstract | 第6页 |
| 1 绪论 | 第10-18页 |
| 1.1 研究背景和意义 | 第10-12页 |
| 1.2 数据质量 | 第12-14页 |
| 1.2.1 数据质量定义 | 第12-13页 |
| 1.2.2 数据质量产生原因 | 第13-14页 |
| 1.3 研究现状 | 第14-17页 |
| 1.3.1 国外研究现状 | 第14-16页 |
| 1.3.2 国内研究现状 | 第16-17页 |
| 1.4 论文组织结构 | 第17-18页 |
| 2 相似重复记录检测技术研究 | 第18-30页 |
| 2.1 相似重复记录检测概述 | 第18-21页 |
| 2.1.1 相似重复记录 | 第18-19页 |
| 2.1.2 相似重复记录检测 | 第19-21页 |
| 2.2 属性值匹配方法介绍 | 第21-24页 |
| 2.2.1 编辑距离算法 | 第21-22页 |
| 2.2.2 Smith-Waterman算法 | 第22-23页 |
| 2.2.3 N-gram算法 | 第23页 |
| 2.2.4 Jaro距离算法 | 第23-24页 |
| 2.3 决策模型介绍 | 第24-25页 |
| 2.3.1 基于分类的方法 | 第24-25页 |
| 2.3.2 基于距离的方法 | 第25页 |
| 2.4 相似重复记录检测算法介绍 | 第25-28页 |
| 2.4.1 Blocking算法 | 第25-26页 |
| 2.4.2 近邻排序算法 | 第26-27页 |
| 2.4.3 排序分块算法 | 第27-28页 |
| 2.5 本章小结 | 第28-30页 |
| 3 分块近邻匹配算法 | 第30-42页 |
| 3.1 算法设计 | 第30-33页 |
| 3.2 性能分析 | 第33-35页 |
| 3.3 多字段分块近邻匹配算法 | 第35-37页 |
| 3.4 实验分析 | 第37-40页 |
| 3.4.1 实验环境 | 第37页 |
| 3.4.2 实验参数 | 第37-38页 |
| 3.4.3 实验结果 | 第38-40页 |
| 3.5 本章小结 | 第40-42页 |
| 4 并行化分块近邻匹配算法 | 第42-50页 |
| 4.1 Map Reduce编程模型 | 第42页 |
| 4.2 并行化分块近邻匹配算法 | 第42-45页 |
| 4.3 实验结果分析 | 第45-48页 |
| 4.3.1 实验环境 | 第45-46页 |
| 4.3.2 实验结果 | 第46-48页 |
| 4.4 本章小结 | 第48-50页 |
| 5 原型系统设计与实现 | 第50-62页 |
| 5.1 系统分析与设计 | 第50-52页 |
| 5.2 系统架构 | 第52-53页 |
| 5.3 主要模块实现 | 第53-61页 |
| 5.3.1 数据源管理 | 第53-56页 |
| 5.3.2 数据转换功能 | 第56-58页 |
| 5.3.3 数据分析功能 | 第58-61页 |
| 5.4 本章小结 | 第61-62页 |
| 6 总结与展望 | 第62-64页 |
| 6.1 总结 | 第62页 |
| 6.2 展望 | 第62-64页 |
| 参考文献 | 第64-68页 |
| 攻读学位期间发表论文及科研情况 | 第68-70页 |
| 致谢 | 第70页 |
