| 摘要 | 第4-5页 |
| ABSTRACT | 第5-6页 |
| 第一章 绪论 | 第10-32页 |
| 1.1 相关背景及研究意义 | 第10-23页 |
| 1.1.1 深度学习的发展历史 | 第10-13页 |
| 1.1.2 典型的深度学习模型 | 第13-17页 |
| 1.1.3 深度学习理论研究的主要方法概述 | 第17-18页 |
| 1.1.4 神经网络的学习理论及现存问题 | 第18-20页 |
| 1.1.5 深度学习与模型选择 | 第20-23页 |
| 1.2 主要研究问题以及解决思路 | 第23-27页 |
| 1.3 论文主要贡献 | 第27-29页 |
| 1.4 本文的结构 | 第29-32页 |
| 第二章 信息几何理论基础 | 第32-42页 |
| 2.1 多元布尔概率分布族的统计流形 | 第32-34页 |
| 2.2 坐标系统的Fisher信息矩阵 | 第34-40页 |
| 2.2.1 坐标参数的正交性 | 第36-37页 |
| 2.2.2 自然坐标系统 [θ] 的Fisher信息矩阵 | 第37-38页 |
| 2.2.3 期望坐标系统 [η] 的Fisher信息矩阵 | 第38-39页 |
| 2.2.4 混合坐标系统 [ζ] 的Fisher信息矩阵 | 第39-40页 |
| 2.3 章节小结 | 第40-42页 |
| 第三章 多元布尔分布族的参数选择理论 | 第42-52页 |
| 3.1 可信信息优先原则（CIF）的实现条件 | 第42-43页 |
| 3.2 典型分布下的可信信息优先原则 | 第43-45页 |
| 3.3 可信信息优先原则的证明 | 第45-49页 |
| 3.4 章节小结 | 第49-52页 |
| 第四章 玻尔兹曼机的CIF视角解析 | 第52-62页 |
| 4.1 玻尔兹曼机介绍 | 第52-55页 |
| 4.1.1 玻尔兹曼机的参数坐标 | 第53-54页 |
| 4.1.2 玻尔兹曼机的训练算法 | 第54-55页 |
| 4.2 无隐含节点的玻尔兹曼机 | 第55-57页 |
| 4.2.1 可视玻尔兹曼机的CIF解析 | 第56-57页 |
| 4.3 有隐含节点的玻尔兹曼机 | 第57-60页 |
| 4.3.1 迭代映像算法 | 第58-60页 |
| 4.3.2 一般玻尔兹曼机的CIF解析 | 第60页 |
| 4.4 章节小结 | 第60-62页 |
| 第五章 基于CIF的玻尔兹曼机模型选择方法 | 第62-76页 |
| 5.1 模型选择方法概述 | 第62-64页 |
| 5.2 自适应样本的网络结构设计算法 | 第64-66页 |
| 5.3 实验与分析 | 第66-74页 |
| 5.3.1 密度估计实验： 仿真数据 | 第67-70页 |
| 5.3.2 密度估计实验： 真实文本数据 | 第70-71页 |
| 5.3.3 信息检索实验： TREC数据集 | 第71-74页 |
| 5.4 章节小结 | 第74-76页 |
| 第六章 基于CIF的深度神经网络正则化方法 | 第76-88页 |
| 6.1 引言 | 第76-78页 |
| 6.2 具有相同先验的网络正则化方法 | 第78-79页 |
| 6.3 基于CIF的网络正则化方法： ConfNet | 第79-80页 |
| 6.4 深度ConfNet的Back-propagation算法 | 第80-83页 |
| 6.5 实验与分析 | 第83-85页 |
| 6.5.1 手写数字识别： MNIST | 第83-84页 |
| 6.5.2 图像分类任务： CIFAR-10 | 第84-85页 |
| 6.6 章节小结 | 第85-88页 |
| 第七章 总结与展望 | 第88-92页 |
| 7.1 总结 | 第88-90页 |
| 7.2 未来展望 | 第90-92页 |
| 参考文献 | 第92-102页 |
| 发表论文和参加科研情况说明 | 第102-104页 |
| 致谢 | 第104-105页 |
