検索内容:
浮動小数点アルゴリズムをデバッグしていると、符号ビットが正を示すゼロが計算に伝播し、予期しない分岐を引き起こすことに気づいた。
この数学的枠組みの奇妙な規則では、正のゼロは負のゼロとは異なる振る舞いをする。
データをプロットする際、そのアルゴリズムは正のゼロを負のゼロとは別に扱ったため、可視化に影響が出た。
アカウントを持っていませんか? 新規登録
アカウントを持っていますか? ログイン
DiQt(ディクト)
無料
★★★★★★★★★★