求解对称非线性方程组PRP型算法研究
【摘要】:线性共轭梯度法是求解对称正定线性方程组的一种非常有效的算法,其显著特点是具有二次终止性,即算法在有限步迭代后收敛到问题的解.该方法后来被推广到求解一般的无约束最优化问题,即所谓的非线性共轭梯度法.由于其具有算法简洁、易于编程、存储量小、收敛速度较快等特点,目前非线性共轭梯度法已经成为一类求解大型非线性优化问题的有效算法.在所有非线性共轭梯度法中,经典的Polak-Ribiere-Polyak (PRP)方法被公认为属于数值最有效的算法之列.尽管PRP方法数值上很成功,但其收敛性理论却不是尽如人意,关键性的困难在于其不是一种下降型算法,即使对采用强Wolfe线性搜索的强凸函数也是如此.因此,要保证其全局收敛性,往往需要对其进行修正从而得到一些改进型的PRP方法.最近,周伟军通过采用某种非单调线性搜索策略证明了原始的PRP方法求解非凸优化问题具有全局收敛性.本文的目的是将求解无约束最优化问题的原始无修正的PRP方法推广到求解对称非线性方程组,同时避免计算中使用问题的Jacobian矩阵或者其度量函数的精确梯度,使得构造的算法能求解相对大型的问题.本文主要研究内容如下:第一章,简要介绍问题的研究背景和相关预备知识.第二章,对于对称非线性方程组的求解,通过充分利用问题的对称性结构,基于度量函数的近似梯度,我们提出了两种近似的PRP型算法.其中一种是基于交替方向法思想的PRP算法,简称为近似PRP算法1;另一种是基于范数近似下降的PRP算法,简称为近似PRP算法2.我们证明了这两种方法都是优良定义的,同时证明了算法产生的残量序列是有界并收敛的.第三章,在适当的假设条件下,证明了第二章所提出的两种算法求解对称非线性方程组具有全局收敛性.此外,还证明了近似PRP算法1具有R-线性收敛速度.第四章,我们进行了一些数值试验,数值结果表明本文所提出的两种算法求解对称非线性方程组非常有效.
【关键词】:对称非线性方程组 近似PRP方法 全局收敛性 线性收敛 无导数方法
【学位级别】:硕士
【学位授予年份】:2014
【分类号】:O241.7