計算量の予算の模型

学習の計算量が、パラメータ数 $N$ と学習に使うトークン数 $D$ の積に比例する、すなわちある定数 $\kappa > 0$ で $\text{計算量} = \kappa N D$ と書けるという模型を考えます。計算量の上限が決まっていることは、$C > 0$ を定数として $N D = C$ という制約で表されます（$\kappa$ は $C$ に含めます）。