非单调PRP型算法的收敛性研究

【摘要】：共轭梯度法因存储量小且收敛速度较快等特点常被用于求解大型优化问题.最早的共轭梯度法是由Hestenes和Stiefel在1952年为求解线性方程组Ax=b提出来的,即经典的线性共轭梯度法,该方法在1964年由Flecher和Reeves推广到求解非线性优化问题,即著名的FR方法.此后,许多学者又提出了很多新的非线性共轭梯度法,其中Polak-Ribiere-Polyak (PRP)方法被公认为一种最有效的共轭梯度法,然而PRP方法的理论性质特别是其收敛性质较差,问题在于PRP方法在通常的非精确线性搜索下不一定能产生下降方向,因而不是一种下降型算法.因此,为了保证PRP方法的全局收敛性,要么要对其进行改进,要么采用一些新的线性搜索.本文研究两种PRP型算法在非单调线性搜索下的收敛性质,非单调线性搜索技术能提高算法的计算效率,因为其能够接受尽可能大的步长,从而使得算法产生的迭代序列能较快的收敛到问题的稳定点甚至最优解.本文主要研究内容如下：第一章,简要介绍问题的研究背景和相关的预备知识.第二章,为求解一般的无约束最优化问题,我们提出了一种新的非单调线性搜索,在合理的假设条件下,我们证明了,经典PRP方法在该非单调线性搜索下求解非凸问题具有全局收敛性.第三章,我们证明了经典PRP方法在新的非单调线性搜索下具有R-线性收敛速度.第四章,我们对Wei等人提出的修正PRP方法进行了深入的探讨,进一步分析了该方法的收敛性质,证明了该方法在采用参数为σ=1/4的强Wolfe线性搜索和非单调Armijo线性搜索下,对于非凸问题的求解也具有全局收敛性.第五章,我们进行了一些数值试验,数值结果表明PRP方法在本文所提出的非单调线性搜索下计算效果比较理想.
【关键词】：PRP方法 非单调线性搜索 全局收敛性
【学位级别】：硕士
【学位授予年份】：2014
【分类号】：O224