摘要 | 第5-6页 |
Abstract | 第6页 |
第1章 绪论 | 第9-16页 |
1.1 课题研究背景及意义 | 第9-10页 |
1.2 垃圾短信 | 第10-11页 |
1.2.1 短信基础知识 | 第10页 |
1.2.2 垃圾短信的定义和特点 | 第10-11页 |
1.2.3 垃圾短信危害及解决方法 | 第11页 |
1.3 国内外整治垃圾短信现状 | 第11-14页 |
1.3.1 法律法规制度方面 | 第11-12页 |
1.3.2 垃圾短信过滤技术方面 | 第12-14页 |
1.4 本文主要研究内容 | 第14页 |
1.5 本文的组织与安排 | 第14-16页 |
第2章 Hadoop相关技术介绍 | 第16-21页 |
2.1 分布式系统Hadoop概述 | 第16-17页 |
2.2 分布式文件系统HDFS | 第17-18页 |
2.3 并行计算框架MapReduce | 第18-20页 |
2.4 分布式数据库管理系统HBase | 第20页 |
2.5 本章小结 | 第20-21页 |
第3章 短信文本过滤关键技术 | 第21-33页 |
3.1 短信文本分类过程 | 第21-22页 |
3.2 短信文本预处理 | 第22-23页 |
3.3 短信文本特征表示 | 第23-24页 |
3.4 短信文本特征提取算法及改进 | 第24-27页 |
3.4.1 文档频率(DF) | 第25页 |
3.4.2 信息增益(IG) | 第25页 |
3.4.3 互信息法(MI ) | 第25页 |
3.4.4 CHI统计 | 第25-26页 |
3.4.5 文本特征提取算法的改进 | 第26-27页 |
3.5 特征权重 | 第27-28页 |
3.6 短信文本分类相关算法 | 第28-31页 |
3.6.1 朴素贝叶斯分类算法 | 第28-29页 |
3.6.2 支持向量机分类算法 | 第29-30页 |
3.6.3 K近邻算法 | 第30页 |
3.6.4 决策树 | 第30页 |
3.6.5 短信文本分类算法的选取 | 第30-31页 |
3.6.6 短信文本分类朴素贝叶斯算法的改进 | 第31页 |
3.7 本章小结 | 第31-33页 |
第4章 Hadoop平台下海量垃圾短信过滤技术实现 | 第33-44页 |
4.1 垃圾短信过滤系统总体介绍 | 第33-34页 |
4.2 主要数据表结构 | 第34-35页 |
4.3 短信过滤模块 | 第35-37页 |
4.4 短信文本训练阶段 | 第37-42页 |
4.4.1 短信文本分布式预处理模块 | 第37-40页 |
4.4.2 短信文本分布式特征选择与权重计算模块 | 第40-42页 |
4.5 短信文本分类测试阶段 | 第42-43页 |
4.6 本章小节 | 第43-44页 |
第5章 实验平台搭建和实验结果分析 | 第44-50页 |
5.1 系统部署 | 第44-45页 |
5.1.1 实验平台搭建 | 第44页 |
5.1.2 安装并配置Hadoop环境 | 第44-45页 |
5.2 数据准备 | 第45-46页 |
5.3 实验评估标准 | 第46-47页 |
5.4 实验结果分析 | 第47-49页 |
5.4.1 分类阶段设定不同阈值范围的对比实验 | 第47-48页 |
5.4.2 朴素贝叶斯算法改进前后实验对比 | 第48-49页 |
5.4.3 并行化性能测试 | 第49页 |
5.5 本章小结 | 第49-50页 |
第6章 总结与展望 | 第50-52页 |
6.1 全文总结 | 第50页 |
6.2 展望与进一步工作 | 第50-52页 |
参考文献 | 第52-55页 |
攻读硕士学位期间发表的论文及其它成果 | 第55-56页 |
致谢 | 第56页 |