| 摘要 | 第1-5页 |
| Abstract | 第5-9页 |
| 1 绪论 | 第9-27页 |
| ·神经网络概述 | 第9-15页 |
| ·神经网络的特征与工作原理 | 第10-11页 |
| ·神经网络的拓扑结构 | 第11-12页 |
| ·神经网络的学习 | 第12-14页 |
| ·神经网络的几个研究课题 | 第14-15页 |
| ·提高神经网络泛化能力的方法 | 第15-20页 |
| ·网络结构优化算法 | 第16-18页 |
| ·训练的早期停止法 | 第18-20页 |
| ·前馈神经网络 | 第20-24页 |
| ·感知器网络结构及工作原理 | 第20-22页 |
| ·BP算法的批处理和在线运行 | 第22-24页 |
| ·本文的主要工作 | 第24-27页 |
| 2 惩罚项简介 | 第27-37页 |
| ·Weight-decay简介 | 第27-28页 |
| ·Weight-elimination简介 | 第28-31页 |
| ·Combination of Weight-decay and Weight-elimination简介 | 第31-33页 |
| ·Structural Learning with Forgetting简介 | 第33-35页 |
| ·Inner-product简介 | 第35-37页 |
| 3 批处理BP算法的收敛性 | 第37-51页 |
| ·带weight-decay惩罚项的批处理BP算法及收敛结果 | 第37-44页 |
| ·带weight-decay惩罚项的批处理BP算法 | 第37-39页 |
| ·重要定理及证明 | 第39-43页 |
| ·数值试验结果 | 第43-44页 |
| ·改进的BP算法及收敛性 | 第44-51页 |
| ·变学习率的BP算法及收敛性 | 第45-49页 |
| ·带动量项的BP算法及收敛性 | 第49-51页 |
| 4 带Weight-decay惩罚项的在线BP算法的收敛性 | 第51-65页 |
| ·带weight-decay惩罚项的在线BP算法 | 第51-52页 |
| ·假设条件与重要引理 | 第52-59页 |
| ·重要定理及证明 | 第59-62页 |
| ·数值试验结果 | 第62-65页 |
| 5 带Inner-product惩罚项的随机在线梯度算法的收敛性 | 第65-77页 |
| ·带inner-product惩罚项的在线梯度算法 | 第65-67页 |
| ·预备引理 | 第67-73页 |
| ·重要定理及证明 | 第73-77页 |
| 6 从弱收敛到强收敛 | 第77-81页 |
| ·预备引理和强收敛分析 | 第77-78页 |
| ·收敛定理和简要证明 | 第78-81页 |
| 结论与展望 | 第81-83页 |
| 参考文献 | 第83-87页 |
| 攻读博士学位期间学术论文完成情况 | 第87-89页 |
| 论文创新点摘要 | 第89-91页 |
| 致谢 | 第91-93页 |
