共轭梯度法可以看作是 Lanczos 方法对于正定对称系统的特殊变体。最小残差法和对称 LQ 方法 (SYMMLQ) 是可以应用于对称不定系统的变体。
共轭梯度法中的向量序列对应于类似于系数矩阵的三对角矩阵的分解。因此,如果矩阵是不定的,则算法可能会发生崩溃,对应于零主元。此外,对于不定矩阵,共轭梯度法的最小化性质不再明确定义。MINRES 和 SYMMLQ 方法是 CG 方法的变体,它们避免了 LU 分解,并且不会遭受崩溃。SYMMLQ 求解投影系统,但不最小化任何东西(它保持残差与所有先前的残差正交)。
当 不是正定的,而是对称的时,我们仍然可以通过三项递推关系为 Krylov 子空间构造一个正交基。消除共轭梯度法方程中的搜索方向得到一个递推式
(1)
|
可以写成矩阵形式为
(2)
|
其中 是一个
三对角矩阵。
在这种情况下,我们遇到了 不再定义内积的问题。但是,我们仍然可以通过获得以下方式尝试最小化 2-范数中的残差
(3)
|
从而最小化
(4)
| |||
(5)
|
现在我们利用以下事实,如果
(6)
|
那么 是关于当前 Krylov 子空间的正交变换
(7)
|
并且这个最终表达式可以简单地看作是最小范数最小二乘问题。
一种方法是求解系统 ,就像在共轭梯度法中一样(
是
的上
部分)。然而,与共轭梯度法不同,我们不能依赖 Cholesky 分解的存在(因为
不是正定的)。另一种方法是通过 LQ 分解来分解
。这导致简单的递推关系,并且所得方法被称为 SYMMLQ (Paige and Saunders 1975)。