2 進浮動小数の集合

整数 $p\ge2$（精度）と $e_{\min}\lt e_{\max}$ を固定する。正規化数を $\pm M\cdot2^{e-p+1}$（$M$ は整数で $2^{p-1}\le M\lt2^p$、$e_{\min}\le e\le e_{\max}$）、非正規化数を $\pm M\cdot2^{e_{\min}-p+1}$（$0\lt M\lt2^{p-1}$）とし、これらと $0$ の全体を $\mathbb{F}$ と書く。$x_{\min}=2^{e_{\min}}$, $x_{\max}=(2-2^{1-p})2^{e_{\max}}$ とおき、$u=2^{-p}$ を単位丸めという。

IEEE 754 の倍精度（binary64）は $p=53$, $e_{\min}=-1022$, $e_{\max}=1023$ で、$u=2^{-53}\approx1.11\times10^{-16}$ である。