共轭梯度法可以看作是 Lanczos 方法对于正定对称系统的特殊变体。最小残差法和对称 LQ 方法 (SYMMLQ) 是可以应用于对称不定系统的变体。
共轭梯度法中的向量序列对应于类似于系数矩阵的三对角矩阵的分解。因此,如果矩阵是不定的,则算法可能会发生崩溃,对应于零主元。此外,对于不定矩阵,共轭梯度法的最小化性质不再明确定义。MINRES 和 SYMMLQ 方法是 CG 方法的变体,它们避免了 LU 分解,并且不会遭受崩溃。SYMMLQ 求解投影系统,但不最小化任何东西(它保持残差与所有先前的残差正交)。
当
不是正定的,而是对称的时,我们仍然可以通过三项递推关系为 Krylov 子空间构造一个正交基。消除共轭梯度法方程中的搜索方向得到一个递推式
![Ar^((i))=r^((i+1))t_(i+1,i)+r^((i))t_(i,i)+r^((i-1))t_(i-1,i),](/images/equations/SymmetricLQMethod/NumberedEquation1.svg) |
(1)
|
可以写成矩阵形式为
![AR_i=R_(i+1)T^__i,](/images/equations/SymmetricLQMethod/NumberedEquation2.svg) |
(2)
|
其中
是一个
三对角矩阵。
在这种情况下,我们遇到了
不再定义内积的问题。但是,我们仍然可以通过获得以下方式尝试最小化 2-范数中的残差
![x^((i)) in {r^((0)),Ar^((0)),...,A^(i-1)r^((0))}, x^((i))=R_iy^_](/images/equations/SymmetricLQMethod/NumberedEquation3.svg) |
(3)
|
从而最小化
现在我们利用以下事实,如果
![D_(i+1)=diag(|r^((0))|_2,|r^((1))|_2,...,|r^((i))|_2),](/images/equations/SymmetricLQMethod/NumberedEquation4.svg) |
(6)
|
那么
是关于当前 Krylov 子空间的正交变换
![|Ax^((i))-b|_2=|D_(i+1)T^__iy-|r^((0))|_2e^((1))|_2,](/images/equations/SymmetricLQMethod/NumberedEquation5.svg) |
(7)
|
并且这个最终表达式可以简单地看作是最小范数最小二乘问题。
一种方法是求解系统
,就像在共轭梯度法中一样(
是
的上
部分)。然而,与共轭梯度法不同,我们不能依赖 Cholesky 分解的存在(因为
不是正定的)。另一种方法是通过 LQ 分解来分解
。这导致简单的递推关系,并且所得方法被称为 SYMMLQ (Paige and Saunders 1975)。
另请参阅
双共轭梯度法,
切比雪夫迭代,
正规方程上的共轭梯度法 共轭梯度法,
共轭梯度平方方法,
灵活的广义最小残差法,
广义最小残差法,
线性方程组,
最小残差法,
非平稳迭代法,
预处理器,
准最小残差法 平稳迭代法,
无转置准最小残差法
此条目由 Noel Black 和 Shirley Moore 贡献,改编自 Barrett 等人 (1994) (作者链接)
使用 Wolfram|Alpha 探索
参考文献
Barrett, R.; Berry, M.; Chan, T. F.; Demmel, J.; Donato, J.; Dongarra, J.; Eijkhout, V.; Pozo, R.; Romine, C.; 和 van der Vorst, H. 线性系统求解模板:迭代方法的构建模块,第 2 版。 Philadelphia, PA: SIAM, 1994. http://www.netlib.org/linalg/html_templates/Templates.html.Paige, C.; Parlett, B.; 和 van der Vorst, H. "来自 Krylov 子空间的近似解和特征值界限。" Numer. Lin. Alg. Appl. 29, 115-134, 1995.Paige, C. 和 Saunders, M. "稀疏不定线性方程组的解。" SIAM J. Numer. Anal. 12, 617-629, 1975.在 Wolfram|Alpha 上被引用
对称 LQ 方法
引用为
Black, Noel 和 Moore, Shirley. "对称 LQ 方法。" 来自 MathWorld--Wolfram Web 资源,由 Eric W. Weisstein 创建。 https://mathworld.net.cn/SymmetricLQMethod.html
主题分类