面向海量文本数据的多任务并行调度加载技术研究与实现
| 摘要 | 第1-9页 |
| ABSTRACT | 第9-10页 |
| 第一章 绪论 | 第10-15页 |
| ·研究背景 | 第10-11页 |
| ·研究现状 | 第11-13页 |
| ·多任务调度的研究现状 | 第12页 |
| ·最优并发度控制的研究现状 | 第12-13页 |
| ·资源调度的研究现状 | 第13页 |
| ·本文工作 | 第13-14页 |
| ·本文结构 | 第14-15页 |
| 第二章 相关技术 | 第15-22页 |
| ·面向海量信息的并行数据管理平台MDMP | 第15-17页 |
| ·分区和分区交换技术 | 第17-18页 |
| ·资源调度相关技术 | 第18-19页 |
| ·基于有向无环图的资源调度算法 | 第18-19页 |
| ·基于资源池的资源调度算法 | 第19页 |
| ·任务调度相关技术 | 第19-21页 |
| ·相关的经典任务调度策略分类 | 第19-20页 |
| ·面向多资源的任务调度典型算法 | 第20-21页 |
| ·本章小结 | 第21-22页 |
| 第三章 关键技术与策略研究 | 第22-37页 |
| ·海量文本数据的加载过程设计 | 第22-24页 |
| ·加载的整个过程设计方案 | 第22-23页 |
| ·批量数据加载方式 | 第23页 |
| ·基于交换分区技术的入库方式设计 | 第23-24页 |
| ·基于多维数据切片划分的加载策略 | 第24-27页 |
| ·粗粒度的多级多路流水任务划分 | 第24-25页 |
| ·细粒度的数据多维切片划分 | 第25页 |
| ·分区表与临时表的交换 | 第25-26页 |
| ·数据划分后分区上的加载子任务 | 第26-27页 |
| ·带约束关系的加载子任务调度 | 第27-30页 |
| ·加载子任务执行状态的追踪机制 | 第27-28页 |
| ·切分后加载子任务调度执行算法 | 第28-30页 |
| ·基于虚拟资源池的资源调度 | 第30-33页 |
| ·资源的虚拟映射 | 第30-32页 |
| ·虚拟资源映射的资源分配策略 | 第32-33页 |
| ·失败任务的重做机制 | 第33-36页 |
| ·执行失败子任务的定位 | 第34页 |
| ·失败原因的确定和解决 | 第34-35页 |
| ·基于知识库匹配的任务重做 | 第35-36页 |
| ·本章小结 | 第36-37页 |
| 第四章 多任务并行调度加载系统的设计与实现 | 第37-46页 |
| ·加载系统的总体结构 | 第37-39页 |
| ·总体结构设计 | 第37-38页 |
| ·整个加载系统各模块关系 | 第38-39页 |
| ·任务管理器总体设计 | 第39-40页 |
| ·资源调度部分的设计与实现 | 第40-42页 |
| ·虚拟资源映射器的设计 | 第40页 |
| ·虚拟资源映调度器的设计 | 第40-42页 |
| ·任务调度部分的设计与实现 | 第42-45页 |
| ·任务排队器的设计与实现 | 第42-43页 |
| ·任务执行状态追踪部分的设计与实现 | 第43-45页 |
| ·本章小结 | 第45-46页 |
| 第五章 多任务并行调度加载系统的测试 | 第46-55页 |
| ·加载峰值及加载稳定性测试 | 第47-49页 |
| ·系统资源负载均衡测试 | 第49-51页 |
| ·数据一致性及分布均匀性测试 | 第51页 |
| ·加载压力对查询性能影响测试 | 第51-53页 |
| ·传统加载方式对比测试 | 第53-54页 |
| ·本章小结 | 第54-55页 |
| 第六章 总结与展望 | 第55-57页 |
| ·本文的工作总结 | 第55-56页 |
| ·对未来的展望 | 第56-57页 |
| 致谢 | 第57-58页 |
| 参考文献 | 第58-61页 |
| 作者在攻读硕士学位期间取得的学术成果 | 第61-62页 |
| 作者在攻读硕士学位期间参与的科研项目 | 第62页 |
