摘要 | 第5-7页 |
ABSTRACT | 第7-10页 |
符号对照表 | 第16-17页 |
缩略语对照表 | 第17-24页 |
第一章 绪论 | 第24-44页 |
1.1 深度学习的发展与研究现状 | 第24-33页 |
1.1.1 深度学习的基本概况 | 第24-28页 |
1.1.2 深度学习的研究现状 | 第28-31页 |
1.1.3 深度学习的瓶颈问题 | 第31-33页 |
1.2 稀疏认知学习、计算与识别 | 第33-37页 |
1.2.1 生物视觉稀疏认知机理 | 第34页 |
1.2.2 稀疏编码模型 | 第34-36页 |
1.2.3 稀疏认知学习、计算与识别的研究脉络 | 第36-37页 |
1.3 稀疏深度学习研究简介 | 第37-40页 |
1.3.1 深度学习中的稀疏性 | 第38-39页 |
1.3.2 稀疏深度学习的研究现状 | 第39-40页 |
1.4 稀疏深度学习的研究难点 | 第40-41页 |
1.5 本文主要工作及结构安排 | 第41-44页 |
第二章 快速稀疏深度神经网络 | 第44-72页 |
2.1 引言 | 第44-46页 |
2.2 基础知识 | 第46-50页 |
2.2.1 从稀疏表示到深度神经网络 | 第46-47页 |
2.2.2 基于反向传播算法的深度学习框架分析 | 第47-48页 |
2.2.3 层次极限学习机 | 第48-50页 |
2.3 快速稀疏深度神经网络框架与分析 | 第50-56页 |
2.3.1 单隐层多通道极限学习机 | 第50-51页 |
2.3.2 多隐层单通道极限学习机 | 第51-53页 |
2.3.3 快速稀疏深度神经网络 | 第53-54页 |
2.3.4 快速稀疏深度神经网络的通用逼近性证明 | 第54-56页 |
2.4 实验结果与分析 | 第56-71页 |
2.4.1 单隐层多通道极限学习与极限学习机的性能对比 | 第56-60页 |
2.4.2 多隐层单通道极限学习与层次极限学习机的性能对比 | 第60-67页 |
2.4.3 快速稀疏深度神经网络与经典深度网络的性能对比 | 第67-70页 |
2.4.4 快速稀疏深度神经网络应用于Fashion MNIST及性能分析 | 第70-71页 |
2.5 本章小结 | 第71-72页 |
第三章 稀疏深度组合神经网络 | 第72-98页 |
3.1 引言 | 第72-73页 |
3.2 基础知识 | 第73-78页 |
3.2.1 从RVFL再到BLS | 第73-76页 |
3.2.2 从GAN到InfoGAN | 第76-78页 |
3.3 稀疏深度组合神经网络框架与分析 | 第78-85页 |
3.3.1 基于GAN的样本组合机制 | 第78-80页 |
3.3.2 基于模式分类的数据学习 | 第80-82页 |
3.3.3 稀疏深度组合神经网络 | 第82-84页 |
3.3.4 三个部分之间的关系 | 第84-85页 |
3.4 性能评估与分析 | 第85-94页 |
3.4.1 基于InfoGAN的样本组合机制的性能评估与分析 | 第85-88页 |
3.4.2 SDCNN与经典深度学习算法的性能对比 | 第88-94页 |
3.5 关于数据学习进一步研究的问题 | 第94-96页 |
3.6 本章小结 | 第96-98页 |
第四章 稀疏深度堆栈神经网络 | 第98-124页 |
4.1 引言 | 第98-99页 |
4.2 相关工作 | 第99-104页 |
4.2.1 深度堆栈自编码网络 | 第99-101页 |
4.2.2 深度堆栈神经网络 | 第101-103页 |
4.2.3 极限学习机的研究进展 | 第103-104页 |
4.3 稀疏深度堆栈神经网络模型与分析 | 第104-110页 |
4.3.1 稀疏深度堆栈极限学习机 | 第104-107页 |
4.3.2 稀疏深度张量极限学习机 | 第107-110页 |
4.4 实验结果与分析 | 第110-121页 |
4.4.1 稀疏深度堆栈极限学习机的实验结果与分析 | 第110-115页 |
4.4.2 稀疏深度张量极限学习机的实验结果与分析 | 第115-121页 |
4.5 讨论与结论 | 第121-124页 |
第五章 稀疏深度判别神经网络 | 第124-144页 |
5.1 引言 | 第124-126页 |
5.2 基础知识 | 第126-132页 |
5.2.1 神经网络中的随机性 | 第126-127页 |
5.2.2 从ELM/RVFL到DSAE/DSN | 第127-128页 |
5.2.3 从SRC到DPL | 第128-130页 |
5.2.4 从S-ELM到D-ELM | 第130-132页 |
5.3 稀疏深度判别学习模型的框架与分析 | 第132-134页 |
5.3.1 基于SRC的稀疏深度判别神经网络 | 第132-133页 |
5.3.2 基于DPL的稀疏深度判别神经网络 | 第133-134页 |
5.4 性能评估与分析 | 第134-143页 |
5.4.1 ELM,S-ELM与D-ELM之间的性能对比 | 第134-138页 |
5.4.2 稀疏深度判别学习模型与经典方法之间的性能对比 | 第138-142页 |
5.4.3 稀疏深度判别学习模型的应用 | 第142-143页 |
5.5 本章小结 | 第143-144页 |
第六章 稀疏深度差分神经网络 | 第144-168页 |
6.1 引言 | 第144-146页 |
6.2 相关工作 | 第146-150页 |
6.2.1 小波分析与深度学习 | 第146-147页 |
6.2.2 Mallat算法 | 第147-148页 |
6.2.3 基于RVFL与ELM的稀疏自编码器 | 第148-150页 |
6.3 稀疏深度差分神经网络框架与分析 | 第150-157页 |
6.3.1 差分特征学习 | 第150-152页 |
6.3.2 基于RVFL-SAE的MDL的稀疏深度差分神经网络 | 第152-154页 |
6.3.3 基于ELM-SAE的MDL的稀疏深度差分神经网络 | 第154-155页 |
6.3.4 用于模式分类的稀疏深度差分神经网络 | 第155-157页 |
6.3.5 稀疏深度差分神经网络的算法复杂度 | 第157页 |
6.4 实验分析与讨论 | 第157-167页 |
6.4.1 模式分类任务 | 第157-163页 |
6.4.2 重构任务 | 第163-167页 |
6.5 本章小结 | 第167-168页 |
第七章 总结与展望 | 第168-174页 |
7.1 总结 | 第168-170页 |
7.2 展望 | 第170-174页 |
参考文献 | 第174-192页 |
致谢 | 第192-194页 |
作者简介 | 第194-195页 |