Search results- English - English

double precision

Noun
uncountable
Japanese Meaning
倍精度:メモリ上で隣接する2つの領域を利用して、数値をより高い精度で表現・格納する数値格納形式
What is this buttons?

気候システムをモデリングする際、中間計算に倍精度浮動小数点形式(64ビット)を使用することで丸め誤差が減り、数値の安定性が向上した。

Search by Web

Login / Sign up

 

Download the app!
DiQt

DiQt

Free

★★★★★★★★★★