けた落ち
cancellation
計算力学
ほぼ等しい値を有する二つの浮動小数点数
x
,
y
の差
x
-
y
を少ない有効けた数で計算すると,意味のあるけたの情報が無くなってしまう現象.単精度演算でけた落ちを起こす場合は倍精度演算を実施する必要がある.