基于网页内容的海量数据管理系统的设计与实现
| 致谢 | 第5-6页 |
| 摘要 | 第6-7页 |
| ABSTRACT | 第7页 |
| 1 引言 | 第11-16页 |
| 1.1 课题背景 | 第11-12页 |
| 1.2 项目目的及意义 | 第12页 |
| 1.3 国内外发展现状 | 第12-13页 |
| 1.4 论文主要工作 | 第13-14页 |
| 1.5 论文组织结构 | 第14-15页 |
| 1.6 本章小结 | 第15-16页 |
| 2 系统相关技术 | 第16-23页 |
| 2.1 网络爬虫原理 | 第16页 |
| 2.2 基于网页内容的网页分析算法 | 第16-17页 |
| 2.3 Htmlparse解析器 | 第17-18页 |
| 2.4 ETL技术 | 第18-19页 |
| 2.5 Hbase体系结构 | 第19-20页 |
| 2.6 数据挖掘算法分析 | 第20-22页 |
| 2.6.1 聚类 | 第20-21页 |
| 2.6.2 关联分析 | 第21-22页 |
| 2.7 本章小结 | 第22-23页 |
| 3 系统需求分析 | 第23-29页 |
| 3.1 系统的业务分析及功能性需求分析 | 第23-26页 |
| 3.1.1 系统的业务分析 | 第23-25页 |
| 3.1.2 系统的功能性需求分析 | 第25-26页 |
| 3.2 系统非功能性需求分析 | 第26-28页 |
| 3.2.1 安全性需求 | 第27页 |
| 3.2.2 灵活性需求 | 第27页 |
| 3.2.3 可复用性需求 | 第27页 |
| 3.2.4 可靠性需求 | 第27-28页 |
| 3.3 系统环境需求 | 第28页 |
| 3.4 本章小结 | 第28-29页 |
| 4 系统概要设计 | 第29-38页 |
| 4.1 总体架构设计 | 第29-30页 |
| 4.2 系统各模块设计 | 第30-36页 |
| 4.2.1 数据抓取 | 第31-32页 |
| 4.2.2 数据预处理 | 第32-33页 |
| 4.2.3 数据分析 | 第33-36页 |
| 4.3 模块间调用关系设计 | 第36-37页 |
| 4.4 模块间接口函数设计 | 第37页 |
| 4.5 本章小结 | 第37-38页 |
| 5 系统的设计与实现 | 第38-54页 |
| 5.1 网络数据抓取模块设计与实现 | 第38-42页 |
| 5.2 数据预处理模块设计与实现 | 第42-45页 |
| 5.3 数据分析模块设计与实现 | 第45-51页 |
| 5.3.1 K均值(K-means)算法 | 第45-47页 |
| 5.3.2 K中心点算法 | 第47-49页 |
| 5.3.3 FP-growth算法 | 第49-51页 |
| 5.4 数据仓库的搭建 | 第51-53页 |
| 5.5 本章小结 | 第53-54页 |
| 6 系统测试 | 第54-64页 |
| 6.1 评估指标 | 第54页 |
| 6.2 测试数据来源 | 第54-55页 |
| 6.3 系统功能性测试 | 第55-59页 |
| 6.3.1 数据的抓取 | 第55-58页 |
| 6.3.2 数据预处理 | 第58页 |
| 6.3.3 数据分析 | 第58-59页 |
| 6.4 系统非功能性测试 | 第59-61页 |
| 6.5 系统性能测试 | 第61-62页 |
| 6.6 测试结果与分析 | 第62-63页 |
| 6.7 本章小结 | 第63-64页 |
| 7 总结与展望 | 第64-66页 |
| 7.1 结论 | 第64-65页 |
| 7.2 工作展望 | 第65-66页 |
| 参考文献 | 第66-68页 |
| 作者简历及攻读硕士/博士学位期间取得的研究成果 | 第68-70页 |
| 学位论文数据集 | 第70页 |
