摘要 | 第4-6页 |
Abstract | 第6-7页 |
1 绪论 | 第16-30页 |
1.1 人工神经网络简介 | 第16-23页 |
1.1.1 神经网络的发展历史 | 第16-17页 |
1.1.2 神经网络的特征 | 第17-18页 |
1.1.3 神经网络的结构 | 第18-21页 |
1.1.4 神经网络的学习 | 第21-23页 |
1.2 前馈神经网络 | 第23-25页 |
1.2.1 BP神经网络 | 第23-24页 |
1.2.2 自编码神经网络 | 第24-25页 |
1.3 前馈神经网络的梯度学习算法 | 第25-27页 |
1.3.1 批处理学习 | 第25页 |
1.3.2 在线学习 | 第25-26页 |
1.3.3 带惩罚项的梯度学习算法 | 第26-27页 |
1.4 本文的主要工作 | 第27-30页 |
2 前馈神经网络输入层正则化 | 第30-44页 |
2.1 背景介绍 | 第30-31页 |
2.2 输入层正则化方法 | 第31-34页 |
2.3 数值实验 | 第34-43页 |
2.3.1 逼近问题:Sine函数数据集 | 第35-37页 |
2.3.2 分类问题:Monk数据集 | 第37-39页 |
2.3.3 分类问题:Sonar数据集 | 第39-40页 |
2.3.4 MNIST问题 | 第40-43页 |
2.4 本章小结 | 第43-44页 |
3 BP神经网络输入层的光滑GroupL_(1/2)正则化 | 第44-68页 |
3.1 背景介绍 | 第44-46页 |
3.2 相关工作 | 第46-47页 |
3.3 算法描述和收敛性结果 | 第47-52页 |
3.3.1 带光滑GroupL_(1/2)正则项的梯度学习算法 | 第47-51页 |
3.3.2 收敛性 | 第51-52页 |
3.4 数值实验 | 第52-59页 |
3.4.1 Sine问题 | 第53-55页 |
3.4.2 Monk问题 | 第55-57页 |
3.4.3 WBCD,WDBC,Sonar,Ionosphere和Biodeg问题 | 第57-59页 |
3.5 收敛性证明 | 第59-66页 |
3.6 本章小结 | 第66-68页 |
4 带L_(1/2)正则项的自编码神经网络的稀疏表达学习 | 第68-82页 |
4.1 背景介绍 | 第68-69页 |
4.2 算法描述 | 第69-72页 |
4.3 数值实验 | 第72-80页 |
4.3.1 MNIST手写数字数据集 | 第72-77页 |
4.3.2 ORL人脸数据集 | 第77页 |
4.3.3 Reuters-21578文本语料库 | 第77-80页 |
4.4 本章小结 | 第80-82页 |
5 结论与展望 | 第82-84页 |
5.1 结论 | 第82页 |
5.2 创新点 | 第82-83页 |
5.3 展望 | 第83-84页 |
参考文献 | 第84-92页 |
攻读博士学位期间科研项目及科研成果 | 第92-94页 |
致谢 | 第94-96页 |
作者简介 | 第96页 |