摘要 | 第4-5页 |
Abstract | 第5-6页 |
第1章 绪论 | 第9-15页 |
1.1 研究背景及意义 | 第9-10页 |
1.2 国内外研究现状 | 第10-11页 |
1.2.1 国外研究现状 | 第10-11页 |
1.2.2 国内研究现状 | 第11页 |
1.3 论文研究的内容 | 第11-13页 |
1.4 论文的组织结构 | 第13-15页 |
第2章 微博话题采集系统的设计与实现 | 第15-35页 |
2.1 微博数据来源方法分析 | 第15-19页 |
2.1.1 基于微博API的数据获取特点分析 | 第15-18页 |
2.1.2 基于爬虫的微博数据抓取拟解决的问题 | 第18页 |
2.1.3 微博API与网络爬虫性能对比分析 | 第18-19页 |
2.2 基于微博API的数据获取方式的实现 | 第19-22页 |
2.2.1 OAuth 2.0授权认证 | 第19-20页 |
2.2.2 微博API接口调用 | 第20-22页 |
2.3 微博聚焦爬虫的设计与实现 | 第22-31页 |
2.3.1 微博聚焦爬虫总体框架 | 第22-25页 |
2.3.2 微博登陆过程分析 | 第25-26页 |
2.3.3 Ajax深层数据抓取 | 第26-28页 |
2.3.4 微博聚焦爬虫的实现 | 第28-31页 |
2.4 API与爬虫相结合的微博话题采集系统 | 第31-34页 |
2.4.1 微博话题采集系统的设计与实现 | 第31-33页 |
2.4.2 实验及分析 | 第33-34页 |
2.5 本章小结 | 第34-35页 |
第3章 微博话题数据预处理分析方法 | 第35-53页 |
3.1 微博话题数据特点分析及清洗 | 第35-39页 |
3.1.1 缺失数据的处理 | 第35-36页 |
3.1.2 噪声数据定义与处理 | 第36-38页 |
3.1.3 转发微博的归属分类 | 第38-39页 |
3.1.4 数据去重 | 第39页 |
3.2 微博中文分词及停用词处理 | 第39-42页 |
3.2.1 繁体中文分词存在的问题和解决方法 | 第40-41页 |
3.2.2 中文分词技术评价标准 | 第41-42页 |
3.2.3 停用词处理 | 第42页 |
3.3 微博文本表示 | 第42-47页 |
3.3.1 文本表示模型的对比和选择 | 第43-44页 |
3.3.2 特征降维 | 第44-45页 |
3.3.3 特征权重和微博向量表示 | 第45-47页 |
3.4 实验及分析 | 第47-52页 |
3.4.1 中文分词工具评测与选择 | 第47-51页 |
3.4.2 微博数据预处理及结果分析 | 第51-52页 |
3.5 本章小结 | 第52-53页 |
第4章 敏感信息检测方法分析与数据可视化 | 第53-76页 |
4.1 敏感信息聚类分析 | 第53-59页 |
4.1.1 微博话题数据聚类算法的选择 | 第53-55页 |
4.1.2 基于K-Means聚类的敏感信息检测 | 第55-59页 |
4.2 基于MapReduce的Canopy+K-Means并行聚类 | 第59-62页 |
4.2.1 MapReduce框架下的并行聚类设计 | 第59-60页 |
4.2.2 集群加速比性能实验 | 第60-62页 |
4.3 基于共现敏感词分类的检测方法 | 第62-68页 |
4.3.1 共现敏感词特征组合模型 | 第62-64页 |
4.3.2 共现敏感词挖掘和敏感词分类 | 第64-66页 |
4.3.3 实验结果及分析 | 第66-68页 |
4.4 D3-Cloud数据可视化和敏感信息检测结果分析 | 第68-75页 |
4.4.1 D3.js可视化库 | 第68-69页 |
4.4.2 数据可视化实现 | 第69-70页 |
4.4.3 词云展示及实验结果分析 | 第70-75页 |
4.5 本章小结 | 第75-76页 |
第5章 总结与展望 | 第76-78页 |
5.1 论文工作总结 | 第76-77页 |
5.2 未来展望 | 第77-78页 |
致谢 | 第78-79页 |
参考文献 | 第79-82页 |