(numerical analysis) The difference between the result produced by a given algorithm using exact arithmetic and the result produced by the same algorithm using finite-precision, rounded arithmetic.
round-off error
行列の逆行列の計算における小さな丸め誤差が固有値を大きく変化させた。
アカウントを持っていませんか？ 新規登録
アカウントを持っていますか？ ログイン
DiQt（ディクト）
無料
★★★★★★★★★★
