情報科学 › 研究のための計算の実務 › 精度の選び方

作業精度・目標精度・有効桁

定義 2.1(「精度の選び方」§2)

  • 計算に使う浮動小数点数の精度 pp(ビット)を作業精度といい、D=−log⁡10u=plog⁡102D=-\log_{10}u=p\log_{10}2(u=2−pu=2^{-p} は単位丸め。定義 2.3[浮動小数点数と丸め誤差])を作業桁数という。binary64 では D≈15.95D\approx15.95、binary32 では D≈7.22D\approx7.22 である。
  • 最終結果に求める相対誤差の上限 10−d10^{-d} を目標精度、dd を目標の桁数という。
  • 真値 y≠0y\ne0 に対する計算値 y^\hat y の有効桁を −log⁡10(∣y^−y∣/∣y∣)-\log_{10}(|\hat y-y|/|y|) と定める。

本文で読む(前後の説明と例)→

閉包の状態

定義

定義は閉包の起点です(証明を要しません)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

これを使っている定理

証明で明示的に参照している定理は、まだありません。

関連するノック 3 問