摘要 | 第3-4页 |
abstract | 第4-5页 |
1 前言 | 第12-17页 |
1.1 研究背景及意义 | 第12-13页 |
1.2 国内外研究现状 | 第13-15页 |
1.2.1 文本分类研究现状 | 第13-14页 |
1.2.2 特征选择算法研究现状 | 第14-15页 |
1.2.3 特征加权算法研究现状 | 第15页 |
1.3 论文研究内容及组织结构 | 第15-17页 |
1.3.1 论文主要内容 | 第15-16页 |
1.3.2 论文组织结构 | 第16-17页 |
2 相关技术 | 第17-29页 |
2.1 文本分类基础理论 | 第17-19页 |
2.1.1 文本分类的定义 | 第17页 |
2.1.2 文本分类的过程 | 第17-19页 |
2.2 文本预处理 | 第19-20页 |
2.2.1 去除文本标记 | 第19页 |
2.2.2 中文分词 | 第19-20页 |
2.2.3 去停用词 | 第20页 |
2.3 文本表示 | 第20-22页 |
2.3.1 布尔模型 | 第21页 |
2.3.2 概率模型 | 第21页 |
2.3.3 向量空间模型 | 第21-22页 |
2.4 特征选择 | 第22-23页 |
2.5 特征加权 | 第23页 |
2.6 分类算法 | 第23-26页 |
2.6.1 KNN算法 | 第23-25页 |
2.6.2 朴素贝叶斯算法 | 第25页 |
2.6.3 支持向量机算法 | 第25-26页 |
2.7 深度学习 | 第26-28页 |
2.7.1 深度学习概述 | 第26-27页 |
2.7.2 深度学习常用模型 | 第27-28页 |
2.8 结论 | 第28-29页 |
3 基于词频的互信息特征选择算法 | 第29-46页 |
3.1 相关的特征选择算法 | 第29-32页 |
3.1.1 文档频率 | 第29-30页 |
3.1.2 信息增益 | 第30页 |
3.1.3 互信息 | 第30-31页 |
3.1.4 卡方检验 | 第31页 |
3.1.5 t-Test | 第31-32页 |
3.1.6 mRMR | 第32页 |
3.2 经典互信息的不足 | 第32-33页 |
3.3 基于词频的互信息特征选择算法 | 第33-36页 |
3.3.1 特征类频率 | 第33-34页 |
3.3.2 特征项平均值 | 第34页 |
3.3.3 基于词频的互信息特征选择算法 | 第34-36页 |
3.4 实验设置 | 第36-38页 |
3.4.1 实验选择 | 第36-37页 |
3.4.2 分类器选择 | 第37页 |
3.4.3 性能评价指标 | 第37-38页 |
3.5 实验结果及分析 | 第38-45页 |
3.6 本章小结 | 第45-46页 |
4 基于类别内和类别间分布的改进TF-IDF算法 | 第46-59页 |
4.1 相关的特征加权算法 | 第46-48页 |
4.1.1 布尔权重 | 第46页 |
4.1.2 词频权重 | 第46页 |
4.1.3 熵权重 | 第46-47页 |
4.1.4 TF-RF | 第47-48页 |
4.1.5 TF-IDF | 第48页 |
4.2 TF-IDF算法的不足 | 第48-49页 |
4.3 基于类别内和类别间分布的改进TF-IDF算法 | 第49-52页 |
4.3.1 引入方差 | 第49页 |
4.3.2 算法思想 | 第49-52页 |
4.4 实验设置 | 第52页 |
4.5 实验结果及分析 | 第52-58页 |
4.6 本章小结 | 第58-59页 |
5 基于Spark的高校投诉文本分类系统 | 第59-74页 |
5.1 基于Spark的并行化理论 | 第59-61页 |
5.1.1 Spark并行计算框架 | 第59-60页 |
5.1.2 弹性分布式数据集 | 第60-61页 |
5.2 基于Spark的文本分类并行化 | 第61-69页 |
5.2.1 基于Spark的文本预处理 | 第61页 |
5.2.2 基于Spark的特征选择并行化 | 第61-64页 |
5.2.3 基于Spark的特征加权并行化 | 第64-66页 |
5.2.4 实验验证 | 第66-69页 |
5.3 高校投诉文本分类系统的实现 | 第69-73页 |
5.3.1 数据上传 | 第69-70页 |
5.3.2 文本预处理 | 第70-71页 |
5.3.3 高校投诉文本分类 | 第71-73页 |
5.4 本章小结 | 第73-74页 |
6 总结与展望 | 第74-76页 |
6.1 工作总结 | 第74页 |
6.2 工作展望 | 第74-76页 |
致谢 | 第76-77页 |
参考文献 | 第77-81页 |
攻读学位期间的科研成果 | 第81页 |