基于注意力机制的端到端语音识别技术研究
摘要 | 第4-5页 |
Abstract | 第5-6页 |
第一章 绪论 | 第11-19页 |
1.1 研究背景和意义 | 第11-12页 |
1.2 连续语音识别系统简介 | 第12-15页 |
1.2.1 基于隐马可夫模型的连续语音识别系统 | 第12-14页 |
1.2.2 端到端的连续语音识别系统 | 第14-15页 |
1.3 端到端语音系统的发展和研究现状 | 第15-17页 |
1.3.1 基于CTC的语音识别系统 | 第15-16页 |
1.3.2 基于注意力模型的语音识别系统 | 第16-17页 |
1.4 研究内容和结构安排 | 第17-19页 |
第二章 端到端的语音识别系统 | 第19-36页 |
2.1 循环神经网络 | 第19-22页 |
2.1.1 循环神经网络单元基本结构 | 第19-20页 |
2.1.2 长短时记忆单元 | 第20-21页 |
2.1.3 门循环单元 | 第21-22页 |
2.2 基于注意力模型的语音识别系统 | 第22-26页 |
2.2.1 注意力模型框架 | 第22-25页 |
2.2.2 注意力模型训练 | 第25页 |
2.2.3 注意力模型解码 | 第25-26页 |
2.3 基于CTC的语音识别系统 | 第26-32页 |
2.3.1 基于CTC系统模型框架 | 第26-27页 |
2.3.2 CTC算法 | 第27-29页 |
2.3.3 基于CTC系统的训练 | 第29-30页 |
2.3.4 基于CTC系统的解码 | 第30-32页 |
2.4 实验系统 | 第32-35页 |
2.4.1 实验数据 | 第32-33页 |
2.4.2 实验配置 | 第33-34页 |
2.4.3 系统识别性能分析 | 第34-35页 |
2.5 本章小结 | 第35-36页 |
第三章 采用最少门单元的改进注意力模型 | 第36-45页 |
3.1 最少门单元网络 | 第36-37页 |
3.2 改进的注意力机制 | 第37-40页 |
3.2.1 基于窗函数的注意力区域限定策略 | 第37-39页 |
3.2.2 自适应宽度的窗函数调整 | 第39页 |
3.2.3 基于卷积神经网络的系数特征 | 第39-40页 |
3.2.4 卷积神经网络加入池化层 | 第40页 |
3.3 实验结果及分析 | 第40-44页 |
3.3.1 实验配置 | 第40页 |
3.3.2 实验结果 | 第40-44页 |
3.4 本章小结 | 第44-45页 |
第四章 基于瓶颈特征提取网络的注意力模型 | 第45-62页 |
4.1 基于DBN的瓶颈特征提取网络 | 第45-53页 |
4.1.1 基于RBM的无监督预训练 | 第46-49页 |
4.1.2 基于BP的有监督训练 | 第49-53页 |
4.2 结合瓶颈特征的注意力模型 | 第53-54页 |
4.3 基于CTC的瓶颈特征提取网络 | 第54-56页 |
4.4 实验结果及分析 | 第56-61页 |
4.4.1 实验配置 | 第57页 |
4.4.2 实验结果 | 第57-61页 |
4.5 本章小结 | 第61-62页 |
第五章 总结 | 第62-64页 |
5.1 论文工作总结 | 第62页 |
5.2 前景与展望 | 第62-64页 |
致谢 | 第64-65页 |
参考文献 | 第65-70页 |
作者简历 | 第70页 |