数学 › 数値解析の基礎 › 浮動小数点数と丸め誤差

IEEE 754 の 2 進交換形式

定義 2.1(「浮動小数点数と丸め誤差」§2)

正の整数 ww(指数部の幅)と tt(仮数部の幅)を固定し、bias=2w−1−1\mathrm{bias}=2^{w-1}-1 とする。1+w+t1+w+t ビットの列を、符号ビット s∈{0,1}s\in\{0,1\}、指数部 E∈{0,1,…,2w−1}E\in\{0,1,\ldots,2^w-1\}(ww ビットの符号なし整数)、仮数部 f∈{0,1,…,2t−1}f\in\{0,1,\ldots,2^t-1\}(tt ビットの符号なし整数)に分け、次の値を表すものとする。

  1. 1≤E≤2w−21\le E\le2^w-2 のとき 正規化数 (−1)s 2E−bias (1+f 2−t)(-1)^s\,2^{E-\mathrm{bias}}\,(1+f\,2^{-t})。
  2. E=0E=0, f≠0f\ne0 のとき 非正規化数 (−1)s 21−bias (f 2−t)(-1)^s\,2^{1-\mathrm{bias}}\,(f\,2^{-t})。E=0E=0, f=0f=0 のとき (−1)s 0(-1)^s\,0(+0+0 と −0-0)。
  3. E=2w−1E=2^w-1, f=0f=0 のとき (−1)s∞(-1)^s\infty。E=2w−1E=2^w-1, f≠0f\ne0 のとき NaN(数でない値)。

binary32 は (w,t)=(8,23)(w,t)=(8,23)、binary64 は (w,t)=(11,52)(w,t)=(11,52) である。

本文で読む(前後の説明と例)→

閉包の状態

定義

定義は閉包の起点です(証明を要しません)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

これを使っている定理

証明で明示的に参照している定理は、まだありません。

関連するノック 8 問