| 摘要 | 第3-6页 |
| ABSTRACT | 第6-9页 |
| 第一章 绪论 | 第20-30页 |
| 1.1 研究背景及意义 | 第20-21页 |
| 1.2 国内外研究现状 | 第21-26页 |
| 1.2.1 情感语音发音机理 | 第21-22页 |
| 1.2.2 运动学-声学特征的转换 | 第22-25页 |
| 1.2.3 多模态语音情感识别 | 第25-26页 |
| 1.3 全文主要工作及创新点 | 第26-28页 |
| 1.4 论文的总体安排 | 第28-30页 |
| 第二章 融合运动学和声学特征的语音情感识别基本理论 | 第30-50页 |
| 2.1 引言 | 第30页 |
| 2.2 情感语音的发音机理 | 第30-35页 |
| 2.2.1 语音的发音机理 | 第31-32页 |
| 2.2.2 情感类型的划分 | 第32-35页 |
| 2.2.3 语音情感特征提取 | 第35页 |
| 2.3 情感语音的运动学数据的采集与分析 | 第35-38页 |
| 2.3.1 发音器官运动学数据的采集技术 | 第36-37页 |
| 2.3.2 EMA数据的采集原理 | 第37页 |
| 2.3.3 EMA数据的分析方法 | 第37-38页 |
| 2.4 情感语音的声学和运动学特征 | 第38-43页 |
| 2.4.1 韵律特征 | 第38-40页 |
| 2.4.2 音质特征 | 第40-41页 |
| 2.4.3 频谱特征 | 第41-42页 |
| 2.4.4 运动学特征 | 第42-43页 |
| 2.5 情感语音的运动学-声学特征转换的理论模型 | 第43-46页 |
| 2.5.1 不适定问题 | 第43-44页 |
| 2.5.2 正则化方法 | 第44-46页 |
| 2.6 语音情感识别网络 | 第46-49页 |
| 2.6.1 K-近邻 | 第46-47页 |
| 2.6.2 支持向量机 | 第47-48页 |
| 2.6.3 随机森林 | 第48-49页 |
| 2.7 小结 | 第49-50页 |
| 第三章 融合运动学和声学数据的双模态情感语音数据集的设计 | 第50-66页 |
| 3.1 引言 | 第50-51页 |
| 3.2 包含发音器官运动学数据和声学数据的常见双模态语音数据集 | 第51-53页 |
| 3.2.1 MNGU0 数据集 | 第52页 |
| 3.2.2 MOCHA-TIMIT数据集 | 第52页 |
| 3.2.3 EMA-MAE数据集 | 第52-53页 |
| 3.3 包含发音器官运动学和声学数据的双模态情感语音数据集设计 | 第53-58页 |
| 3.3.1 情感语音数据集的设计思想 | 第53-56页 |
| 3.3.2 情感语音数据集的设计过程 | 第56-58页 |
| 3.4 声学和运动学数据的评价与筛选 | 第58-62页 |
| 3.4.1 声学数据与运动学数据的预处理 | 第58-59页 |
| 3.4.2 声学数据的评价与筛选 | 第59-62页 |
| 3.4.3 运动学数据的评价与筛选 | 第62页 |
| 3.5 双模态情感语音数据集的筛选结果与有效性验证实验 | 第62-65页 |
| 3.5.1 情感语音数据集的筛选结果 | 第62-63页 |
| 3.5.2 情感语音数据集的有效性验证实验 | 第63-65页 |
| 3.6 小结 | 第65-66页 |
| 第四章 基于运动学-声学特征的语音情感特征提取及分析 | 第66-96页 |
| 4.1 引言 | 第66页 |
| 4.2 声学和运动学特征的提取 | 第66-70页 |
| 4.2.1 声学特征的提取 | 第66-67页 |
| 4.2.2 运动学特征的提取 | 第67-70页 |
| 4.3 基于运动学-声学特征的双音节词级情感语音分析 | 第70-81页 |
| 4.3.1 基于普氏变换的说话人归一算法 | 第70-74页 |
| 4.3.2 双音节词的运动学-声学特征分析 | 第74-76页 |
| 4.3.3 实验结果 | 第76-81页 |
| 4.4 基于运动学-声学特征的句子级情感语音分析 | 第81-87页 |
| 4.4.1 句子级的运动学-声学特征分析 | 第81页 |
| 4.4.2 运动学特征-声学特征分析实验结果 | 第81-87页 |
| 4.5 双模态情感语音的声学-运动学相关性分析 | 第87-91页 |
| 4.5.1 舌尖运动数据与声学特征的相关性分析实验结果 | 第88-90页 |
| 4.5.2 唇运动数据与声学特征的相关性分析实验结果 | 第90-91页 |
| 4.6 基于运动学-声学特征的语音情感识别实验及结果分析 | 第91-95页 |
| 4.6.1 基于运动学特征的情感识别实验结果 | 第91-93页 |
| 4.6.2 基于声学特征的情感识别实验结果 | 第93-94页 |
| 4.6.3 融合特征的情感识别实验结果 | 第94-95页 |
| 4.7 小结 | 第95-96页 |
| 第五章 基于PSO-LSSVM的情感语音运动学-声学特征转换研究 | 第96-112页 |
| 5.1 引言 | 第96页 |
| 5.2 运动学-声学特征转换系统的自然度分析 | 第96-97页 |
| 5.3 基于GMM的情感语音的运动学-声学特征转换系统研究 | 第97-99页 |
| 5.3.1 GMM应用于运动学-声学特征的转换 | 第97-98页 |
| 5.3.2 实验结果及分析 | 第98-99页 |
| 5.4 基于LSSVM的情感语音运动学-声学特征转换系统研究 | 第99-103页 |
| 5.4.1 LSSVM | 第99-101页 |
| 5.4.2 核函数 | 第101-102页 |
| 5.4.3 基于LSSVM的运动学-声学特征转换系统的设计 | 第102-103页 |
| 5.5 基于PSO-LSSVM的情感语音的运动学-声学特征转换的研究 | 第103-109页 |
| 5.5.1 粒子群算法的基本理论 | 第103-104页 |
| 5.5.2 PSO算法的设计架构 | 第104-105页 |
| 5.5.3 PSO-LSSVM模型的实验结果及分析 | 第105-109页 |
| 5.6 基于转换特征的语音情感识别实验及结果分析 | 第109-110页 |
| 5.7 小结 | 第110-112页 |
| 第六章 基于混合多模态融合的语音情感识别研究 | 第112-126页 |
| 6.1 引言 | 第112页 |
| 6.2 特征融合 | 第112-115页 |
| 6.2.1 特征融合的策略 | 第112-113页 |
| 6.2.2 特征级融合 | 第113-114页 |
| 6.2.3 决策级融合 | 第114页 |
| 6.2.4 混合多模态融合 | 第114-115页 |
| 6.2.5 模型级融合 | 第115页 |
| 6.3 混合多模态融合方法介绍 | 第115-117页 |
| 6.3.1 基于估计的融合方法 | 第115-116页 |
| 6.3.2 基于分类的融合方法 | 第116页 |
| 6.3.3 基于规则的融合方法 | 第116页 |
| 6.3.4 基于深度学习的融合方法 | 第116-117页 |
| 6.4 基于深度玻尔兹曼机的声学特征和运动学特征的混合融合方法 | 第117-120页 |
| 6.4.1 深度玻尔兹曼机理论 | 第117-119页 |
| 6.4.2 基于DBM混合融合的语音情感识别 | 第119-120页 |
| 6.5 实验结果与分析 | 第120-124页 |
| 6.5.1 实验数据的选择 | 第120页 |
| 6.5.2 线性特征级融合实验 | 第120-121页 |
| 6.5.3 基于DBM的决策级融合应用于情感识别的实验 | 第121-123页 |
| 6.5.4 混合多模态融合实验 | 第123-124页 |
| 6.6 小结 | 第124-126页 |
| 第七章 总结和展望 | 第126-129页 |
| 7.1 本文总结 | 第126-127页 |
| 7.2 展望 | 第127-129页 |
| 参考文献 | 第129-140页 |
| 致谢 | 第140-141页 |
| 攻读博士学位期间发表的学术论文及科研工作情况 | 第141页 |
