| 致谢 | 第5-6页 |
| 摘要 | 第6-8页 |
| Abstract | 第8-10页 |
| 1 绪论 | 第16-23页 |
| 1.1 本文的动机 | 第16-18页 |
| 1.1.1 正则化方法及其特性 | 第16-17页 |
| 1.1.2 基于正则化方法研究概率图模型 | 第17-18页 |
| 1.2 问题和解决思路 | 第18-21页 |
| 1.2.1 监督学习 | 第18-19页 |
| 1.2.2 半监督学习 | 第19-20页 |
| 1.2.3 无监督学习 | 第20-21页 |
| 1.3 本文的组织 | 第21-23页 |
| 2 凸分析基础 | 第23-42页 |
| 2.1 引言 | 第23-25页 |
| 2.2 具有对数悔值的在线算法 | 第25-32页 |
| 2.2.1 超越Follow-The-Leader的具有对数悔值的在线行为序列 | 第25-29页 |
| 2.2.2 应对一般性强凸损失函数的具有对数悔值的在线行为序列 | 第29-31页 |
| 2.2.3 总结 | 第31-32页 |
| 2.3 线性预测器的复杂性分析 | 第32-40页 |
| 2.3.1 相关工作 | 第33-34页 |
| 2.3.2 线性函数的复杂性 | 第34-38页 |
| 2.3.3 推论 | 第38页 |
| 2.3.4 间隔界 | 第38-40页 |
| 2.4 与在线悔值最小化算法的关系 | 第40-42页 |
| 3 最大间隔贝叶斯分类器 | 第42-56页 |
| 3.1 简介 | 第42-43页 |
| 3.2 基础知识 | 第43-44页 |
| 3.3 用于多分类的概率模型 | 第44-47页 |
| 3.3.1 概率图 | 第44-45页 |
| 3.3.2 对数似然目标函数 | 第45页 |
| 3.3.3 概率多分类器的最大间隔特性 | 第45-47页 |
| 3.4 推理方法 | 第47-50页 |
| 3.4.1 具有对数悔值的在线学习算法 | 第47-49页 |
| 3.4.2 预测方法 | 第49-50页 |
| 3.5 实验 | 第50-54页 |
| 3.5.1 数据表示形式对分类的影响 | 第51-53页 |
| 3.5.2 类型空间大小对分类的影响 | 第53-54页 |
| 3.6 本章总结 | 第54-56页 |
| 4 半监督学习 | 第56-72页 |
| 4.1 简介 | 第56-57页 |
| 4.2 无标签数据的增进式处理 | 第57-58页 |
| 4.3 基于LogSumExp函数的无标签数据处理框架 | 第58-66页 |
| 4.3.1 Fenchel共轭梯度关系 | 第58-64页 |
| 4.3.2 从处理标签数据的到处理无标签数据的LogSumExp | 第64-66页 |
| 4.3.3 优化问题求解 | 第66页 |
| 4.4 实验 | 第66-70页 |
| 4.4.1 数据表示形式对半监督学习性能的影响 | 第68-69页 |
| 4.4.2 类型空间大小对半监督学习性能的影响 | 第69-70页 |
| 4.5 总结 | 第70-72页 |
| 5 深入概率空间 | 第72-105页 |
| 5.1 LDA和HDP简介 | 第72-74页 |
| 5.2 数学基础 | 第74-81页 |
| 5.2.1 梯度对偶 | 第74-76页 |
| 5.2.2 归约原理 | 第76-78页 |
| 5.2.3 概率空间P及其对偶P~* | 第78-81页 |
| 5.3 基于连接字典和文本的LDA | 第81-88页 |
| 5.3.1 LDA的正则优化问题视图 | 第81-83页 |
| 5.3.2 文本稀疏的处理方法 | 第83页 |
| 5.3.3 归约优化问题的在线解法 | 第83-88页 |
| 5.4 基于Kullback-Leibler散度连接字典和文本的LDA | 第88-90页 |
| 5.5 HDP的正则优化问题视图 | 第90-96页 |
| 5.5.1 用LogSumExp表示历史累积信念的stick-breaking构造 | 第90-94页 |
| 5.5.2 以均值表示历史累积信念的stick-breaking构造 | 第94-96页 |
| 5.6 实验 | 第96-102页 |
| 5.6.1 基于共轭关系距离对字典和文档的契合性进行度量 | 第97-101页 |
| 5.6.2 基于权重方差对单词影响力进行度量 | 第101-102页 |
| 5.7 本章小结 | 第102-105页 |
| 6 总结与展望 | 第105-111页 |
| 6.1 本文总结 | 第105-106页 |
| 6.2 将来工作展望 | 第106-111页 |
| 6.2.1 LDA和HDP模型的扩展 | 第106-108页 |
| 6.2.2 数据还原 | 第108-109页 |
| 6.2.3 概率网路 | 第109-111页 |
| 参考文献 | 第111-116页 |
| 各主题模型影响力前10单词列表 | 第116-121页 |
| 发表文章目录 | 第121页 |
