基于机器学习的多源异构大数据清洗技术研究
摘要 | 第4-6页 |
ABSTRACT | 第6-7页 |
第一章 绪论 | 第10-18页 |
1.1 研究背景 | 第10-11页 |
1.2 相关研究进展 | 第11-16页 |
1.2.1 相似重复数据清洗 | 第13-14页 |
1.2.2 不精确数据清洗 | 第14-15页 |
1.2.3 机器学习的应用 | 第15-16页 |
1.3 本文工作内容 | 第16-17页 |
1.4 文章组织结构 | 第17-18页 |
第二章 数据清洗技术概述 | 第18-28页 |
2.1 数据清洗 | 第18-21页 |
2.1.1 主要研究内容 | 第18-20页 |
2.1.2 面临的问题与挑战 | 第20-21页 |
2.2 机器学习技术 | 第21-25页 |
2.2.1 贝叶斯网络 | 第22-23页 |
2.2.2 粗糙集理论 | 第23-25页 |
2.3 ETL工具 | 第25-27页 |
2.4 本章小结 | 第27-28页 |
第三章 基于贝叶斯网络的层次约减分类清洗方法 | 第28-40页 |
3.1 问题的提出 | 第28-29页 |
3.2 层次约减模型设计 | 第29-35页 |
3.2.1 数据源约减模型 | 第29-31页 |
3.2.2 标记属性与元组的权重 | 第31-33页 |
3.2.3 重要度度量算法设计 | 第33-35页 |
3.3 TAN网模型构建 | 第35-39页 |
3.4 本章小结 | 第39-40页 |
第四章 基于粗糙集的属性约减联合清洗方法 | 第40-51页 |
4.1 问题的提出 | 第40-42页 |
4.2 建立数据属性标准库 | 第42-43页 |
4.3 基于粗糙集的属性约减 | 第43-47页 |
4.4 联合清洗算法设计 | 第47-50页 |
4.5 本章小结 | 第50-51页 |
第五章 实验 | 第51-67页 |
5.1 实验环境与数据 | 第51-56页 |
5.1.1 实验环境 | 第51-52页 |
5.1.2 数据准备 | 第52-53页 |
5.1.3 模型训练 | 第53-54页 |
5.1.4 性能测试 | 第54-56页 |
5.2 实验与分析 | 第56-65页 |
5.2.1 不精确数据清洗实验设计 | 第57-62页 |
5.2.2 相似重复数据清洗对比实验 | 第62-65页 |
5.3 本章小结 | 第65-67页 |
第六章 结束语 | 第67-69页 |
6.1 工作总结 | 第67-68页 |
6.2 工作展望 | 第68-69页 |
参考文献 | 第69-74页 |
致谢 | 第74-75页 |
攻读硕士学位期间参加科研情况 | 第75页 |