数学 › 数値解析の基礎 › 浮動小数点数と丸め誤差
丸めの方向と正しい丸め
の実数 について、次の 4 つの丸めを考える。
- 最近接偶数丸め : に最も近い の元。2 つあれば が偶数の方(定義 2.3[浮動小数と区間演算] の )。
- 下向き丸め 、上向き丸め (同じ定義の , )、0 方向への丸め( なら 、 なら )。
演算 と について、計算機が返す値が厳密な実数 をいずれかの丸め(既定は最近接偶数丸め)で丸めたものであるとき、その演算は正しく丸められるという。平方根 ()と融合積和 についても同様に定める。
閉包の状態
定義
定義は閉包の起点です(証明を要しません)。
印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。
これを使っている定理 証明で参照している 3 件
- 生成の決定性と、浮動小数点演算の順序✓命題 6.3・推論
- 部分和に分けた和の差の上界と、分割の固定による再現✓定理 6.1・並列化と GPU
- 四則の標準モデル✓系 3.1・浮動小数点数と丸め誤差