特徴写像による拡張

写像 $\varphi \colon \mathbb{R}^d \to \mathbb{R}^{p}$ を任意に固定し、計画行列の第 $i$ 行を $\varphi(\boldsymbol{x}_i)^{\mathsf{T}}$ で置き換えたものを $\Phi \in \mathbb{R}^{n \times p}$ とする。モデル $\hat{y} = \boldsymbol{w}^{\mathsf{T}}\varphi(\boldsymbol{x})$ を、特徴写像 $\varphi$ による線形モデルという。$\varphi$ がどれほど非線形でも、$\boldsymbol{w}$ に関しては線形である。