(mathematics) The difference between the result of a calculation using exact arithmetic and finite-precision, rounded arithmetic. / (by extension) A negligible fraction of something.
rounding error
シミュレーションの最終的な差異は、浮動小数点計算における小さな丸め誤差に起因することが判明した。
アカウントを持っていませんか? 新規登録
アカウントを持っていますか? ログイン
DiQt(ディクト)
無料
★★★★★★★★★★