中文摘要 | 第5-6页 |
ABSTRACT | 第6页 |
第1章 绪论 | 第9-12页 |
1.1 课题背景 | 第9页 |
1.2 国内外研究现状 | 第9-10页 |
1.2.1 国外研究现状 | 第9-10页 |
1.2.2 国内研究现状 | 第10页 |
1.3 系统特点 | 第10-11页 |
1.4 研究内容及意义 | 第11页 |
1.5 论文组织结构 | 第11-12页 |
第2章 相关技术介绍 | 第12-20页 |
2.1 网络爬虫 | 第12-13页 |
2.2 中文分词 | 第13-15页 |
2.3 未登录词 | 第15-16页 |
2.4 文本去重 | 第16-17页 |
2.4.1 字符编辑距离 | 第17页 |
2.4.2 simhash | 第17页 |
2.5 聚类分析 | 第17-19页 |
2.5.1 k-means | 第18页 |
2.5.2 层次聚类算法 | 第18页 |
2.5.3 SOM聚类算法 | 第18-19页 |
2.5.4 FCM聚类算法 | 第19页 |
2.6 特征抽取 | 第19页 |
2.7 本章总结 | 第19-20页 |
第3章 基于模拟登录的微博信息抓取 | 第20-33页 |
3.1 新浪微博API | 第20-24页 |
3.1.1 新浪微博API的特点 | 第20-21页 |
3.1.2 新浪微博API的缺陷 | 第21页 |
3.1.3 基于API的采集模块开发 | 第21-22页 |
3.1.4 基于API方式的爬虫实现 | 第22-24页 |
3.2 基于模拟登录的网络爬虫 | 第24-30页 |
3.2.1 网络抓包分析 | 第25-27页 |
3.2.2 模拟登录获取cookie | 第27-28页 |
3.2.3 抓取数据 | 第28-29页 |
3.2.4 数据解析 | 第29-30页 |
3.2.5 数据存储 | 第30页 |
3.3 实验与实验分析 | 第30-31页 |
3.3.1 实验结果 | 第30-31页 |
3.3.2 结果分析 | 第31页 |
3.4 本章总结 | 第31-33页 |
第4章 数据预处理 | 第33-39页 |
4.1 中文分词 | 第33-34页 |
4.1.1 原子切分 | 第33页 |
4.1.2 N-最短路径切分 | 第33-34页 |
4.2 去停用词 | 第34页 |
4.3 词性标注 | 第34-35页 |
4.4 基于simhash的数据去重 | 第35-38页 |
4.5 本章总结 | 第38-39页 |
第5章 舆情分析 | 第39-54页 |
5.1 k-means微博聚类 | 第39-43页 |
5.1.1 传统k-means算法使用 | 第39-41页 |
5.1.2 基于惩罚值改进的k-means算法使用 | 第41-43页 |
5.2 TF-IDF热词抽取 | 第43-45页 |
5.3 基于情感词典的观点挖掘 | 第45-47页 |
5.4 多元组分析 | 第47-51页 |
5.4.1 多元组概念 | 第47-48页 |
5.4.2 多元组工作流程 | 第48-49页 |
5.4.3 多元组建设 | 第49-50页 |
5.4.4 多元组分析结果 | 第50-51页 |
5.5 敏感信息监测 | 第51-53页 |
5.5.1 敏感信息监测设计 | 第51-52页 |
5.5.2 敏感信息词库自动扩展 | 第52-53页 |
5.6 本章总结 | 第53-54页 |
第6章 总结与展望 | 第54-55页 |
参考文献 | 第55-58页 |
致谢 | 第58-59页 |
作者简介 | 第59-60页 |