摘要 | 第3-4页 |
Abstract | 第4-5页 |
1 绪论 | 第8-18页 |
1.1 课题研究背景和意义 | 第8-9页 |
1.2 垃圾短信介绍 | 第9-11页 |
1.2.1 垃圾短信的概念 | 第9-10页 |
1.2.2 垃圾短信的产生原因 | 第10页 |
1.2.3 垃圾短信的危害 | 第10-11页 |
1.3 垃圾短信的研究现状 | 第11-16页 |
1.3.1 国外的垃圾短信整治现状 | 第11-12页 |
1.3.2 国内垃圾短信的治理现状 | 第12-13页 |
1.3.3 垃圾短信过滤技术的研究现状 | 第13-16页 |
1.4 本文的主要工作 | 第16页 |
1.5 本文的章节安排 | 第16-17页 |
1.6 本章小结 | 第17-18页 |
2 Hadoop平台 | 第18-28页 |
2.1 Hadoop平台简介 | 第18页 |
2.2 MapReduce并行编程模型 | 第18-21页 |
2.2.1 MapReduce理论基础 | 第18-19页 |
2.2.2 MapReduce编程模型 | 第19-20页 |
2.2.3 MapReduce作业运行机制 | 第20-21页 |
2.3 HDFS分布式文件系统 | 第21-25页 |
2.3.1 HDFS的数据管理 | 第21-22页 |
2.3.2 HDFS的体系结构 | 第22-23页 |
2.3.3 HDFS的读写数据流 | 第23-25页 |
2.4 HBase分布式数据库 | 第25-27页 |
2.4.1 HBase记录模型 | 第25-26页 |
2.4.2 HBase的体系结构 | 第26-27页 |
2.5 本章小结 | 第27-28页 |
3 短信过滤技术与贝叶斯算法 | 第28-42页 |
3.1 文本分类技术 | 第28页 |
3.2 文本预处理 | 第28-34页 |
3.2.1 分词技术 | 第29-30页 |
3.2.2 文本去噪声处理 | 第30-31页 |
3.2.3 文本的特征表示 | 第31-32页 |
3.2.4 文本的特征提取 | 第32-34页 |
3.3 垃圾短信过滤技术 | 第34页 |
3.4 最小风险的贝叶斯分类器 | 第34-38页 |
3.4.1 最小风险贝叶斯算法的简介 | 第34-35页 |
3.4.2 贝叶斯算法 | 第35-36页 |
3.4.3 贝叶斯算法的两种分类模型 | 第36-37页 |
3.4.4 最小风险贝叶斯分类器 | 第37-38页 |
3.5 垃圾短信的过滤框架 | 第38-41页 |
3.5.1 垃圾短信的训练框架 | 第38-39页 |
3.5.2 垃圾短信的分类框架 | 第39-40页 |
3.5.3 垃圾短信的反馈学习 | 第40-41页 |
3.6 本章小结 | 第41-42页 |
4 Hadoop平台下的垃圾短信过滤系统 | 第42-60页 |
4.1 垃圾短信过滤系统的总体设计 | 第42页 |
4.2 基于MapReduce模型的短信训练过程 | 第42-50页 |
4.2.1 分词器的选择 | 第43页 |
4.2.2 短信训练中第一轮MapReduce过程 | 第43-45页 |
4.2.3 短信训练的第二轮MapReduce过程 | 第45-46页 |
4.2.4 短信训练的第三轮MapReduce过程 | 第46-48页 |
4.2.5 短信样本的存储 | 第48-50页 |
4.2.6 HBase数据库的更新 | 第50页 |
4.3 基于MapReduce模型的短信分类阶段 | 第50-53页 |
4.3.1 短信分类中的第一轮MapReduce过程 | 第51-52页 |
4.3.2 短信分类中的第二轮MapReduce过程 | 第52-53页 |
4.4 实验与实验结果 | 第53-58页 |
4.4.1 实验平台的搭建 | 第53-55页 |
4.4.2 评价指标 | 第55页 |
4.4.3 实验结果及分析 | 第55-58页 |
4.5 本章小结 | 第58-60页 |
5 总结与展望 | 第60-62页 |
5.1 总结 | 第60页 |
5.2 展望 | 第60-62页 |
致谢 | 第62-64页 |
参考文献 | 第64-68页 |
附录 | 第68页 |