GMRES

$1\le k\le d$ について、$\boldsymbol{x}_0+\mathcal{K}_k(A,\boldsymbol{r}_0)$ の中で $\|\boldsymbol{b}-A\boldsymbol{x}\|$ を最小にする $\boldsymbol{x}_k$ を GMRES の第 $k$ 近似解、$\boldsymbol{r}_k=\boldsymbol{b}-A\boldsymbol{x}_k$ をその残差という（存在と一意性は下の定理で示す）。