情報科学 › 研究のための計算の実務 › 精度の選び方

任意精度浮動小数と厳密な有理数

定義 5.1(「精度の選び方」§5)

精度 pp を実行時に選べる浮動小数点演算を任意精度浮動小数という。誤差モデルは固定精度と同じで、単位丸めが u=2−pu=2^{-p} になる。Python の mpmath では、mp.prec が 2 進の精度 pp、mp.dps が対応する 10 進の桁数で、一方を設定すると他方も決まる(mp.dps = 30 で mp.prec は 103103)。

分子と分母を任意の桁数の整数でもつ有理数(Python の fractions.Fraction)の四則は丸めを伴わない。これを厳密な有理数演算という。

本文で読む(前後の説明と例)→

閉包の状態

定義

定義は閉包の起点です(証明を要しません)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

これを使っている定理

証明で明示的に参照している定理は、まだありません。