摘要 | 第4-5页 |
ABSTRACT | 第5页 |
1 绪论 | 第8-13页 |
1.1 课题研究背景 | 第8页 |
1.2 食品安全事件研究现状 | 第8-11页 |
1.2.1 国外研究现状 | 第9页 |
1.2.2 国内研究现状 | 第9-10页 |
1.2.3 基于大数据的食品安全事件的研究 | 第10-11页 |
1.3 课题研究的内容、目的和意义 | 第11-12页 |
1.3.1 课题研究的主要内容 | 第11页 |
1.3.2 课题研究的目的和意义 | 第11-12页 |
1.4 论文组织结构 | 第12-13页 |
2 大数据与云计算 | 第13-26页 |
2.1 大数据 | 第13-15页 |
2.1.1 大数据的概念 | 第13页 |
2.1.2 大数据的特征 | 第13-14页 |
2.1.3 食品安全事件大数据 | 第14-15页 |
2.2 云计算 | 第15-25页 |
2.2.1 云计算的概念 | 第15-16页 |
2.2.2 云计算的基本架构 | 第16-18页 |
2.2.3 Hadoop开源云计算平台 | 第18-25页 |
2.3 大数据与云计算的关系 | 第25-26页 |
3 文本聚类在食品安全事件研究中的应用 | 第26-36页 |
3.1 文本聚类的一般处理流程 | 第26-27页 |
3.2 文本预处理 | 第27页 |
3.2.1 文本分词 | 第27页 |
3.2.2 停用词去除 | 第27页 |
3.3 文本表示模型 | 第27-30页 |
3.3.1 布尔逻辑模型 | 第28页 |
3.3.2 向量空间模型 | 第28-29页 |
3.3.3 文本表示模型的比较与选择 | 第29-30页 |
3.4 文本相似度计算 | 第30-31页 |
3.4.1 海明距离 | 第30页 |
3.4.2 欧氏距离 | 第30页 |
3.4.3 余弦距离 | 第30页 |
3.4.4 距离计算方法的比较与选择 | 第30-31页 |
3.5 文本聚类算法 | 第31-36页 |
3.5.1 主要的聚类分析方法 | 第31-33页 |
3.5.2 Canopy聚类算法 | 第33-35页 |
3.5.3 K-means聚类算法 | 第35-36页 |
4 安装部署食品安全事件处理平台 | 第36-50页 |
4.1 Hadoop集群的部署环境 | 第36页 |
4.1.1 硬件环境 | 第36页 |
4.1.2 软件环境 | 第36页 |
4.2 Hadoop集群的搭建准备 | 第36-41页 |
4.2.1 组建局域网 | 第36-37页 |
4.2.2 VMware虚拟机及CentOS操作系统的安装 | 第37-38页 |
4.2.3 节点规划与静态IP设置 | 第38-40页 |
4.2.4 关闭防火墙 | 第40-41页 |
4.2.5 安装WinSCP | 第41页 |
4.3 安装部署Hadoop集群 | 第41-48页 |
4.3.1 主节点上安装及配置Hadoop | 第41-44页 |
4.3.2 集群的搭建及配置 | 第44-48页 |
4.4 安装部署Mahout算法库 | 第48-50页 |
5 基于Mahout的食品安全事件的文本聚类实现 | 第50-62页 |
5.1 获取实验数据 | 第50-52页 |
5.1.1 实验数据来源 | 第50页 |
5.1.2 实验数据采集 | 第50-52页 |
5.2 食品安全事件数据预处理 | 第52-54页 |
5.3 文本向量化 | 第54-56页 |
5.3.1 文本文件序列化 | 第54-55页 |
5.3.2 序列文件向量化 | 第55-56页 |
5.4 基于Mahout的并行聚类算法实现 | 第56-59页 |
5.4.1 基于Mahout的Canopy初始聚类 | 第56-58页 |
5.4.2 基于Mahout的k-means二次聚类 | 第58-59页 |
5.5 聚类结果分析 | 第59-62页 |
6 总结与展望 | 第62-64页 |
6.1 总结 | 第62页 |
6.2 展望 | 第62-64页 |
7 参考文献 | 第64-70页 |
8 致谢 | 第70页 |