致谢 | 第5-6页 |
摘要 | 第6-7页 |
ABSTRACT | 第7-8页 |
1 引言 | 第11-19页 |
1.1 研究背景及意义 | 第11-12页 |
1.2 研究现状 | 第12-15页 |
1.2.1 文本表示的研究现状 | 第12-13页 |
1.2.2 分类器的研究现状 | 第13-14页 |
1.2.3 Spark发展现状 | 第14-15页 |
1.3 本文主要研究内容 | 第15-17页 |
1.3.1 对文本表示算法的改进 | 第15-16页 |
1.3.2 文本分类器的设计 | 第16-17页 |
1.3.3 OFFS-BP神经网络分类器与Spark框架的融合 | 第17页 |
1.4 本文结构 | 第17-19页 |
2 基础理论与关键技术 | 第19-35页 |
2.1 文本分类算法 | 第19-29页 |
2.1.1 文本预处理 | 第20-21页 |
2.1.2 文本表示 | 第21-24页 |
2.1.3 分类器设计 | 第24-29页 |
2.2 SPARK计算框架 | 第29-34页 |
2.2.1 Spark Core | 第31页 |
2.2.2 Spark MLlib | 第31-33页 |
2.2.3 Spark Streaming | 第33-34页 |
2.2.4 Spark Graphx | 第34页 |
2.3 本章总结 | 第34-35页 |
3 基于流数据的文本分类方法设计 | 第35-58页 |
3.1 文本表示算法 | 第35-44页 |
3.1.1 OFFS文本表示算法模型的构建 | 第35-36页 |
3.1.2 分域的策略 | 第36-38页 |
3.1.3 在线特征提取 | 第38-42页 |
3.1.4 特征的权重计算 | 第42-44页 |
3.2 BP神经网络分类器设计 | 第44-50页 |
3.2.1 神经网络模型 | 第45-46页 |
3.2.2 输入信号的处理 | 第46-48页 |
3.2.3 神经网络模型的训练 | 第48-50页 |
3.3 分类性能测试实验 | 第50-57页 |
3.3.1 OFFS算法性能测试实验 | 第50-54页 |
3.3.2 OFFS-BP神经网络分类器性能测试实验 | 第54-57页 |
3.4 本章总结 | 第57-58页 |
4 基于SPARK平台的OFFS-BP神经网络文本分类器的实现 | 第58-69页 |
4.1 系统架构设计 | 第58-59页 |
4.2 SPARK环境搭建 | 第59-62页 |
4.2.1 Linux下Spark运行环境的配置 | 第60-62页 |
4.2.2 Spark开发环境安装 | 第62页 |
4.3 OFFS算法在SPARK STREAMING中的实现 | 第62-65页 |
4.3.1 Spark Streaming编程模型 | 第63页 |
4.3.2 OFFS算法在Spark Streaming中的实现 | 第63-65页 |
4.4 神经网络在SPARK MLLIB中的实现 | 第65-68页 |
4.5 本章总结 | 第68-69页 |
5 总结与展望 | 第69-70页 |
参考文献 | 第70-73页 |
作者简历及攻读硕士学位期间取得的研究成果 | 第73-75页 |
学位论文数据集 | 第75页 |