情報科学 › 研究のための計算の実務 › 精度の選び方
作業精度・目標精度・有効桁
- 計算に使う浮動小数点数の精度 (ビット)を作業精度といい、( は単位丸め。定義 2.3[浮動小数点数と丸め誤差])を作業桁数という。binary64 では 、binary32 では である。
- 最終結果に求める相対誤差の上限 を目標精度、 を目標の桁数という。
- 真値 に対する計算値 の有効桁を と定める。
閉包の状態
定義
定義は閉包の起点です(証明を要しません)。
印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。
これを使っている定理
証明で明示的に参照している定理は、まだありません。