(computing) A number storage format that uses two adjacent locations in memory, allowing for greater precision in the values stored.
double precision
気候システムをモデリングする際、中間計算に倍精度浮動小数点形式(64ビット)を使用することで丸め誤差が減り、数値の安定性が向上した。
アカウントを持っていませんか? 新規登録
アカウントを持っていますか? ログイン
DiQt(ディクト)
無料
★★★★★★★★★★