基于Spark的大数据人员信息智能管理系统
| 摘要 | 第4-6页 |
| ABSTRACT | 第6-8页 |
| 第一章 绪论 | 第17-23页 |
| 1.1 课题背景及意义 | 第17页 |
| 1.2 国内外发展现状 | 第17-21页 |
| 1.2.1 大数据存储国内外发展现状 | 第18页 |
| 1.2.2 数据分析与处理技术国内外发展现状 | 第18-20页 |
| 1.2.3 人员信息系统国内外发展现状 | 第20-21页 |
| 1.3 本文主要研究内容及结构安排 | 第21-22页 |
| 1.4 本章小结 | 第22-23页 |
| 第二章 系统相关技术介绍 | 第23-36页 |
| 2.1 引言 | 第23页 |
| 2.2 B/S结构 | 第23-25页 |
| 2.3 Hadoop分布式文件系统HDFS | 第25-30页 |
| 2.3.1 HDFS简介 | 第25页 |
| 2.3.2 分布式文件系统HDFS主要架构 | 第25-27页 |
| 2.3.3 HDFS读写文件主要步骤 | 第27-30页 |
| 2.4 Spark系统 | 第30-34页 |
| 2.4.1 SparkRDD | 第31-32页 |
| 2.4.2 SparkOnYARN运行模式 | 第32页 |
| 2.4.3 SparkSQL | 第32页 |
| 2.4.4 SparkGraphX图计算系统 | 第32-33页 |
| 2.4.5 SparkMLlib | 第33-34页 |
| 2.5 kafka分布式消息系统 | 第34-35页 |
| 2.6 ECharts | 第35页 |
| 2.7 本章小结 | 第35-36页 |
| 第三章 智能人员信息管理系统需求分析 | 第36-42页 |
| 3.1 引言 | 第36页 |
| 3.2 人员信息管理系统性能需求 | 第36-38页 |
| 3.2.1 稳定性 | 第36-37页 |
| 3.2.2 高可靠性 | 第37页 |
| 3.2.3 数据处理速度 | 第37页 |
| 3.2.4 可拓展性 | 第37页 |
| 3.2.5 智能性 | 第37-38页 |
| 3.3 人员信息管理系统权限需求 | 第38页 |
| 3.3.1 系统登录权限 | 第38页 |
| 3.3.2 系统管理权限 | 第38页 |
| 3.4 人员数据管理系统数据自动导入需求 | 第38-39页 |
| 3.5 人员数据管理系统数据需求 | 第39页 |
| 3.5.1 人员信息数据清洗需求 | 第39页 |
| 3.5.2 人员信息数据安全需求 | 第39页 |
| 3.6 人员数据管理系统功能性需求 | 第39-41页 |
| 3.6.1 人员数据关系网络与数据挖掘功能 | 第39-40页 |
| 3.6.2 人员数据信息查询功能 | 第40页 |
| 3.6.3 人员数据可视化功能 | 第40-41页 |
| 3.7 本章小结 | 第41-42页 |
| 第四章 智能人员信息管理系统总体设计 | 第42-71页 |
| 4.1 引言 | 第42页 |
| 4.2 系统总体技术架构设计 | 第42-47页 |
| 4.2.1 系统功能流程 | 第43页 |
| 4.2.2 SSM框架和MVC设计模式 | 第43-44页 |
| 4.2.3 spark数据分析和计算原理 | 第44-47页 |
| 4.3 人员信息管理系统整体设计 | 第47页 |
| 4.4 系统数据库表设计 | 第47-49页 |
| 4.5 登录模块设计 | 第49页 |
| 4.6 统计信息模块设计 | 第49页 |
| 4.7 人员关系网络分析与挖掘模块 | 第49-52页 |
| 4.8 数据对比&导入导出模块 | 第52-58页 |
| 4.9 数据可视化模块设计 | 第58-59页 |
| 4.10 数据预警模块设计 | 第59页 |
| 4.11 ARUO(用户信息管理)模块设计 | 第59-60页 |
| 4.12 日志功能模块设计 | 第60页 |
| 4.13 K-means聚类算法 | 第60-68页 |
| 4.14 RSA密钥加密算法 | 第68-70页 |
| 4.15 本章小结 | 第70-71页 |
| 第五章 智能人员信息系统实现与测试 | 第71-88页 |
| 5.1 引言 | 第71页 |
| 5.2 系统硬件配置 | 第71页 |
| 5.3 系统环境搭建 | 第71-72页 |
| 5.4 分布式平台搭建 | 第72-79页 |
| 5.2.1 SSH免密登录 | 第72-73页 |
| 5.2.2 Hadoop环境配置 | 第73-77页 |
| 5.2.3 spark环境配置 | 第77-78页 |
| 5.2.4 kafka环境搭建 | 第78-79页 |
| 5.5 系统功能实现 | 第79-84页 |
| 5.6 系统性能及安全测试 | 第84-87页 |
| 5.4.1 系统性能测试 | 第84-86页 |
| 5.4.2 安全性测试 | 第86页 |
| 5.4.3 系统测试结论 | 第86-87页 |
| 5.7 本章小结 | 第87-88页 |
| 总结与展望 | 第88-89页 |
| 参考文献 | 第89-93页 |
| 攻读硕士学位期间发表论文 | 第93-95页 |
| 致谢 | 第95页 |
