摘要 | 第5-6页 |
ABSTRACT | 第6页 |
第一章 绪论 | 第13-25页 |
1.1 传统特征工程与深度表示学习 | 第13-17页 |
1.2 用于自然语言处理领域的深度学习 | 第17-25页 |
第二章 自然语言分布式表达 | 第25-43页 |
2.1 深度学习 | 第25-30页 |
2.1.1 神经网络基本概念 | 第25-28页 |
2.1.2 深度表示学习 | 第28-30页 |
2.2 基于深度学习的自然语言分布式表达 | 第30-43页 |
2.2.1 单词分布式表达 | 第30-34页 |
2.2.2 句子分布式表达 | 第34-40页 |
2.2.3 段落、文档分布式表达 | 第40-43页 |
第三章 单词分布式表达与单词消歧的联合学习 | 第43-61页 |
3.1 相关工作 | 第44-45页 |
3.2 用于建模单词多义性的Skip Gram Mixture算法 | 第45-50页 |
3.2.1 数学模型 | 第45-47页 |
3.2.2 EM训练算法 | 第47-50页 |
3.2.3 模型参数比较 | 第50页 |
3.3 实验结果 | 第50-58页 |
3.3.1 实验设置 | 第51页 |
3.3.2 定性实验 | 第51-53页 |
3.3.3 单词相似度任务 | 第53-55页 |
3.3.4 大规模并行实现 | 第55-58页 |
3.4 总结 | 第58-61页 |
第四章 单词分布式表达与知识图谱表达的联合学习 | 第61-79页 |
4.1 背景介绍 | 第61-66页 |
4.1.1 知识图谱与知识图谱表示学习 | 第62-66页 |
4.2 ProjectNet算法 | 第66-71页 |
4.2.1 文本模型 | 第66-67页 |
4.2.2 知识模型 | 第67-68页 |
4.2.3 ProjectNet与其他模型的关系 | 第68-71页 |
4.3 实验结果 | 第71-77页 |
4.3.1 实验配置 | 第71-72页 |
4.3.2 单词语义推断(Analogical Reasoning)任务 | 第72-76页 |
4.3.3 单词相似度任务 | 第76-77页 |
4.4 总结 | 第77-79页 |
第五章 联合学习单词分布式表达的应用——自动智商测试 | 第79-97页 |
5.1 背景介绍 | 第79-81页 |
5.2 标准智商测试 | 第81-83页 |
5.2.1 标准智商测试中的词汇问题 | 第81-83页 |
5.3 解决智商测试词汇问题的算法 | 第83-89页 |
5.3.1 问题类型分类 | 第84页 |
5.3.2 联合学习单词多义性和知识关系的分布式表达 | 第84-87页 |
5.3.3 每种问题类型的具体解法 | 第87-89页 |
5.4 词汇智商测试实验 | 第89-94页 |
5.4.1 数据收集 | 第90页 |
5.4.2 基准对比模型 | 第90-92页 |
5.4.3 实验结果 | 第92-94页 |
5.5 总结 | 第94-97页 |
第六章 句子分布式表达与主题模型的联合学习 | 第97-115页 |
6.1 背景介绍 | 第98-99页 |
6.2 相关工作 | 第99-101页 |
6.3 句子层级递归主题模型 | 第101-107页 |
6.3.1 文档生成过程 | 第102-104页 |
6.3.2 随机变分推断和训练算法 | 第104-107页 |
6.4 实验结果 | 第107-113页 |
6.4.1 实验设置 | 第108-109页 |
6.4.2 文档建模任务 | 第109-110页 |
6.4.3 文档分类任务 | 第110-111页 |
6.4.4 主题代表句子生成 | 第111-113页 |
6.5 总结 | 第113-115页 |
第七章 总结与展望 | 第115-119页 |
参考文献 | 第119-127页 |
致谢 | 第127-129页 |
在读期间发表的学术论文 | 第129页 |