神经网络隐层节点的稀疏化
| 摘要 | 第3-4页 |
| Abstract | 第4页 |
| 引言 | 第7-9页 |
| 1 神经网络 | 第9-19页 |
| 1.1 神经元 | 第9-11页 |
| 1.1.1 生物神经元 | 第9页 |
| 1.1.2 人工神经元 | 第9-10页 |
| 1.1.3 激活函数 | 第10-11页 |
| 1.2 发展历程 | 第11-12页 |
| 1.3 网络分类 | 第12-14页 |
| 1.3.1 按照网络连接的拓扑结构分类 | 第12-13页 |
| 1.3.2 按照网络内部的信息流向分类 | 第13-14页 |
| 1.3.3 按照学习环境分类 | 第14页 |
| 1.4 BP神经网络 | 第14-19页 |
| 1.4.1 BP算法的原理 | 第15页 |
| 1.4.2 单隐层BP神经网络 | 第15-16页 |
| 1.4.3 单隐层BP神经网络的算法 | 第16页 |
| 1.4.4 BP神经网络的缺点 | 第16-19页 |
| 2 正则化方法 | 第19-29页 |
| 2.1 方法介绍 | 第19-21页 |
| 2.1.1 L_p正则化问题 | 第19页 |
| 2.1.2 正则化框架 | 第19-21页 |
| 2.1.3 评价正则子的四个准则 | 第21页 |
| 2.2 L_0正则化 | 第21-22页 |
| 2.3 L_1正则化 | 第22-23页 |
| 2.4 L_(1/2)正则化 | 第23-25页 |
| 2.5 几个应用 | 第25-29页 |
| 2.5.1 不适定问题 | 第25页 |
| 2.5.2 压缩传感理论 | 第25-26页 |
| 2.5.3 支持向量机 | 第26页 |
| 2.5.4 欠定线性方程组稀疏解 | 第26-28页 |
| 2.5.5 稀疏线性模型的变量选择问题 | 第28-29页 |
| 3 正则化方法改善BP网络 | 第29-35页 |
| 3.1 算法原理 | 第29-31页 |
| 3.2 算法步骤 | 第31-32页 |
| 3.3 L_(1/2)正则化批处理梯度法 | 第32-33页 |
| 3.4 光滑化的L_(1/2)正则化批处理梯度法 | 第33-34页 |
| 3.5 改进的L_(1/2)正则化批处理梯度法 | 第34-35页 |
| 4 数值试验 | 第35-48页 |
| 4.1 Monk问题 | 第35-40页 |
| 4.2 Sonar问题 | 第40-44页 |
| 4.3 逼近问题 | 第44-48页 |
| 结论 | 第48-49页 |
| 参考文献 | 第49-53页 |
| 攻读硕士学位期间发表学术论文情况 | 第53-54页 |
| 致谢 | 第54-55页 |
