数学 › 数値解析の基礎 › 浮動小数点数と丸め誤差

丸めの方向と正しい丸め

定義 2.2(「浮動小数点数と丸め誤差」§2)

∣x∣≤xmax⁡|x|\le x_{\max} の実数 xx について、次の 4 つの丸めを考える。

  • 最近接偶数丸め fl(x)\mathrm{fl}(x): xx に最も近い F\mathbb{F} の元。2 つあれば MM が偶数の方(定義 2.3[浮動小数と区間演算] の fl\mathrm{fl})。
  • 下向き丸め ∇(x)\nabla(x)、上向き丸め Δ(x)\Delta(x)(同じ定義の ∇\nabla, Δ\Delta)、0 方向への丸め(x≥0x\ge0 なら ∇(x)\nabla(x)、x<0x\lt0 なら Δ(x)\Delta(x))。

演算 ∘∈{+,−,×,÷}\circ\in\{+,-,\times,\div\} と x,y∈Fx,y\in\mathbb{F} について、計算機が返す値が厳密な実数 x∘yx\circ y をいずれかの丸め(既定は最近接偶数丸め)で丸めたものであるとき、その演算は正しく丸められるという。平方根 x\sqrt{x}(x≥0x\ge0)と融合積和 xy+zxy+z についても同様に定める。

本文で読む(前後の説明と例)→

閉包の状態

定義

定義は閉包の起点です(証明を要しません)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

これを使っている定理 証明で参照している 3 件

関連するノック 5 問