情報科学 › 研究のための計算の実務 › 精度の選び方
任意精度浮動小数と厳密な有理数
精度 を実行時に選べる浮動小数点演算を任意精度浮動小数という。誤差モデルは固定精度と同じで、単位丸めが になる。Python の mpmath では、mp.prec が 2 進の精度 、mp.dps が対応する 10 進の桁数で、一方を設定すると他方も決まる(mp.dps = 30 で mp.prec は )。
分子と分母を任意の桁数の整数でもつ有理数(Python の fractions.Fraction)の四則は丸めを伴わない。これを厳密な有理数演算という。
閉包の状態
定義
定義は閉包の起点です(証明を要しません)。
印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。
これを使っている定理
証明で明示的に参照している定理は、まだありません。