一様量子化

$a > 0$、整数 $b \ge 1$ に対して、刻みを $\Delta = \dfrac{2a}{2^b - 1}$ とし、区間 $[-a, a]$ の上の $2^b$ 個の水準 $\ell_j = -a + j\Delta$（$j = 0, 1, \ldots, 2^b - 1$）を取ります。$w \in [-a, a]$ を、最も近い水準（同じ距離のものが 2 つあるときはどちらか）に移す写像 $Q$ を $b$ ビットの一様量子化、$w - Q(w)$ を量子化誤差といいます。行列には成分ごとに適用します。保存するのは番号 $j$（$b$ ビットの整数）と、行列ごとの $a$ だけです。