摘要 | 第4-5页 |
Abstract | 第5-6页 |
第1章 引言 | 第10-23页 |
1.1 研究背景及意义 | 第10页 |
1.2 人工神经网络发展历程 | 第10-21页 |
1.2.1 早期人工神经网络 | 第10-11页 |
1.2.2 现代人工神经网络 | 第11-12页 |
1.2.3 深度神经网络 | 第12-15页 |
1.2.4 限制玻尔兹曼机与深度置信网络 | 第15-17页 |
1.2.5 训练深度模型 | 第17-18页 |
1.2.6 自编码器的提出 | 第18-21页 |
1.3 本文工作及结构安排 | 第21-23页 |
第2章 相关概念及理论 | 第23-54页 |
2.1 优化方法 | 第23-32页 |
2.1.1 牛顿法 | 第23-26页 |
2.1.2 拟牛顿法 | 第26-27页 |
2.1.3 DFP算法 | 第27-28页 |
2.1.4 BFGS算法 | 第28-30页 |
2.1.5 L-BFGS算法 | 第30-32页 |
2.2 分类算法 | 第32-39页 |
2.2.1 Logistic回归 | 第32-34页 |
2.2.2 广义线性模型 | 第34-35页 |
2.2.3 构建广义线性模型 | 第35-36页 |
2.2.4 Softmax回归 | 第36-39页 |
2.3 流形学习 | 第39-43页 |
2.3.1 等距映射(Isomap) | 第39-40页 |
2.3.2 局部线性嵌入(LLE) | 第40-41页 |
2.3.3 拉普拉斯特征映射(LE) | 第41页 |
2.3.4 Hessian特征映射(HLLE) | 第41-43页 |
2.4 稀疏编码 | 第43-46页 |
2.4.1 稀疏编码与稀疏性 | 第43-44页 |
2.4.2 稀疏编码的概率解释 | 第44-46页 |
2.5 Autoencoder算法 | 第46-53页 |
2.5.1 预训Autoencoder | 第46-49页 |
2.5.2 训练softmax分类器 | 第49页 |
2.5.3 对自编码神经网络进行微调 | 第49-50页 |
2.5.4 改进的自编码算法 | 第50-53页 |
2.6 本章小结 | 第53-54页 |
第3章 基于Hessian正则化的稀疏Autoencoder算法 | 第54-63页 |
3.1 HSAE相关基础知识 | 第54-55页 |
3.1.1 Autoencoder | 第54-55页 |
3.1.2 稀疏Autoencoder | 第55页 |
3.1.3 Laplacian正则化Autoencoder | 第55页 |
3.2 HSAE算法与优化 | 第55-59页 |
3.2.1 HSAE算法 | 第55-57页 |
3.2.2 HSAE优化方法 | 第57-58页 |
3.2.3 HSAE相关复杂度 | 第58-59页 |
3.3 HSAE算法相关实验 | 第59-62页 |
3.3.1 手写数字识别实验 | 第59-60页 |
3.3.2 物体识别实验 | 第60-62页 |
3.4 本章小结 | 第62-63页 |
第4章 Large-Margin Autoencoder算法 | 第63-73页 |
4.1 LMAE相关基础知识 | 第63-65页 |
4.1.1 Autoencoder | 第64页 |
4.1.2 增强辨别Autoencoder | 第64-65页 |
4.1.3 Large-Margin最近邻分类 | 第65页 |
4.2 LMAE算法与优化 | 第65-69页 |
4.2.1 LMAE算法 | 第65-67页 |
4.2.2 LMAE优化方法 | 第67-68页 |
4.2.3 LMAE相关复杂度 | 第68-69页 |
4.3 LMAE相关实验 | 第69-72页 |
4.3.1 手写数字识别实验 | 第69-70页 |
4.3.2 物体识别实验 | 第70-72页 |
4.4 本章小结 | 第72-73页 |
总结与展望 | 第73-74页 |
参考文献 | 第74-80页 |
攻读硕士学位期间取得的学术成果 | 第80-81页 |
致谢 | 第81页 |