首页--工业技术论文--自动化技术、计算机技术论文--计算技术、计算机技术论文--计算机的应用论文--信息处理(信息加工)论文--文字信息处理论文

面向商业舆情分析的大规模数据处理架构优化设计研究

摘要第5-6页
ABSTRACT第6-7页
第一章 绪论第15-21页
    1.1 选题背景与意义第15-17页
    1.2 国内外研究历史与现状第17-19页
        1.2.1 国外主流的舆情分析研究现状第17-18页
        1.2.2 国内舆情分析研究现状第18-19页
    1.3 论文研究主要工作内容第19页
    1.4 论文结构安排第19-21页
第二章 商业舆情分析系统的关键技术第21-36页
    2.1 引言第21页
    2.2 软件架构的分类第21-25页
        2.2.1 分层结构第21-23页
        2.2.2 事件驱动架构第23页
        2.2.3 微内核架构第23-24页
        2.2.4 微服务架构第24-25页
    2.3 面向批处理数据的Hadoop架构—舆情系统中的“冷数据”处理第25-29页
        2.3.1 HDFS分布式文件系统体系结构第25-26页
        2.3.2 HBase体系结构第26-28页
        2.3.3 Map Reduce编程模型第28-29页
    2.4 面向实时流数据处理相关架构—舆情系统中的“热数据”处理第29-35页
        2.4.1 主流实时计算数据处理框架介绍与比较第30-32页
        2.4.2 Spark Streaming流式计算框架详细介绍第32-35页
    2.5 小结第35-36页
第三章 商业舆情分析系统的需求分析和总体设计第36-43页
    3.1 引言第36页
    3.2 系统总体需求分析第36-37页
    3.3 系统功能性需求分析第37-39页
    3.4 系统非功能性需求分析第39-40页
    3.5 系统总体设计第40-42页
        3.5.1 舆情系统软件体系架构第40-41页
        3.5.2 舆情系统软件网络拓扑第41-42页
    3.6 小结第42-43页
第四章 商业舆情分析系统架构分层详细设计第43-79页
    4.1 引言第43页
    4.2 基础平台层设计第43-46页
        4.2.1 数据存储技术第43页
        4.2.2 基于多存储介质的分层存储架构第43-46页
    4.3 舆情数据采集模块整体设计第46-53页
        4.3.1 爬虫介绍第46-47页
        4.3.2 基于API接口与Web Magic爬虫相结合的数据采集系统设计第47-51页
        4.3.3 基于Hadoop的分布式数据存储设计第51-53页
    4.4 舆情数据信息预处理设计第53-64页
        4.4.1 基于JSoup开源框架的网页数据预处理第53-57页
        4.4.2 基于NLPIR开源框架的文本数据预处理第57-59页
        4.4.3 基于TF-IDF文本特征计算的改进第59-60页
        4.4.4 基于改进的K-means算法的舆情话题聚类检测第60-64页
    4.5 舆情业务分析模块设计第64-68页
        4.5.1 舆情信息情感分类第64-66页
        4.5.2 舆情热点话题识别第66-68页
    4.6 Web端应用模块设计第68-78页
        4.6.1 功能展示设计第68页
        4.6.2 功能展示模块技术实现第68-70页
        4.6.3 基于Redis的中间缓存设计实现第70-71页
        4.6.4 基于Action重排序以及RDD权重计算的ASRW算法设计第71-78页
    4.7 小结第78-79页
第五章 实验与分析第79-93页
    5.1 环境搭建第79-85页
        5.1.1 集群节点配置第80-81页
        5.1.2 Hadoop配置以及参数的优化第81-83页
        5.1.3 Spark配置与性能调优第83-85页
    5.2 实验结果与分析第85-92页
        5.2.1 舆情信息爬取以及话题分析结果第85-87页
        5.2.2 改进的K-means聚类方法测试结果分析第87-90页
        5.2.3 Spark性能优化测试结果分析第90-92页
    5.3 小结第92-93页
第六章 总结与展望第93-95页
    6.1 全文总结第93页
    6.2 前景展望第93-95页
致谢第95-96页
参考文献第96-100页
攻读硕士期间取得的研究成果第100-101页

论文共101页,点击 下载论文
上一篇:基于机器学习的Android恶意软件静态检测系统的设计与实现
下一篇:基于PHP和MySQL的车辆管理系统