| 摘要 | 第4-6页 |
| Abstract | 第6-7页 |
| 目录 | 第8-10页 |
| CONTENTS | 第10-12页 |
| 插图目录 | 第12-13页 |
| 表格目录 | 第13-14页 |
| 1 绪论 | 第14-26页 |
| 1.1 人工神经网络简介 | 第14-21页 |
| 1.1.1 神经网络的发展历程 | 第14-15页 |
| 1.1.2 人工神经元模型 | 第15-16页 |
| 1.1.3 神经网络的拓扑结构 | 第16-17页 |
| 1.1.4 神经网络的学习过程 | 第17-19页 |
| 1.1.5 神经网络的学习规则 | 第19-21页 |
| 1.2 神经网络学习算法 | 第21-24页 |
| 1.2.1 批处理学习 | 第21-22页 |
| 1.2.2 在线学习 | 第22页 |
| 1.2.3 带动量项的梯度学习算法 | 第22-23页 |
| 1.2.4 带惩罚项的梯度学习算法 | 第23-24页 |
| 1.3 本文的主要工作 | 第24-26页 |
| 2 带光滑L_(1/2)正则项的批处理BP神经网络学习算法的收敛性 | 第26-42页 |
| 2.1 背景介绍 | 第26-28页 |
| 2.2 算法描述 | 第28-31页 |
| 2.2.1 带L_(1/2)正则项的批处理梯度算法(BGL_(1/2) | 第29-30页 |
| 2.2.2 带光滑L1/2正则项的批处理梯度算法(BGSL_(1/2)) | 第30-31页 |
| 2.2.3 带L_2正则项的批处理梯度算法(BGL_2) | 第31页 |
| 2.3 主要结果 | 第31-32页 |
| 2.4 数值模拟 | 第32-35页 |
| 2.4.1 XOR问题和Parity问题 | 第33-34页 |
| 2.4.2 Sonar问题 | 第34-35页 |
| 2.5 算法的收敛性证明 | 第35-41页 |
| 2.6 小结 | 第41-42页 |
| 3 带光滑L_(1/2)正则项BP神经网络在线梯度学习算法的收敛性 | 第42-64页 |
| 3.1 背景介绍 | 第42页 |
| 3.2 算法描述 | 第42-47页 |
| 3.2.1 带L_2正则项的在线梯度法(OGL_2) | 第43-44页 |
| 3.2.2 带L_(1/2)正则项的在线梯度法(OGL_(1/2)) | 第44-45页 |
| 3.2.3 带光滑L_(1/2)正则项的在线梯度法(OGSL_(1/2)) | 第45-47页 |
| 3.3 主要结果 | 第47-48页 |
| 3.4 数值模拟 | 第48-51页 |
| 3.4.1 Parity问题 | 第48-49页 |
| 3.4.2 逼近问题 | 第49-51页 |
| 3.5 算法的收敛性证明 | 第51-61页 |
| 3.6 小结 | 第61-64页 |
| 4 带正则项和自适应动量项的BP神经网络梯度学习算法 | 第64-78页 |
| 4.1 背景介绍 | 第64页 |
| 4.2 算法描述 | 第64-67页 |
| 4.2.1 带L_(1/2)正则项和自适应动量项的批处理梯度算法(BGAM) | 第65-66页 |
| 4.2.2 带光滑L_(1/2)正则项和自适应动量项的的批处理梯度算法(BGSAM) | 第66-67页 |
| 4.3 主要结果 | 第67-68页 |
| 4.4 数值模拟 | 第68页 |
| 4.5 算法的收敛性证明 | 第68-76页 |
| 4.6 小结 | 第76-78页 |
| 5 结论和展望 | 第78-80页 |
| 结论 | 第78页 |
| 展望 | 第78-80页 |
| 参考文献 | 第80-88页 |
| 攻读博士学位期间发表学术论文情况 | 第88-90页 |
| 致谢 | 第90-92页 |
| 作者简介 | 第92-94页 |
