05/13 13:19 これは、「コンパイラがVERの定義値を浮動小数点値に変換するプロセス」と「ランタイムがstrを浮動小数点値に変換するプロセス」が同じ仕様であれば値にズレは発生しないはずだけど、それを期待するのは危険よね…という話がひとつ、
(bato)
05/13 13:20 浮動小数点値に精度の概念がある処理系では、どこで精度変換が入ってどれくらいの誤差が生まれるかを常に意識していないといけない…という話がもうひとつ
(bari)
05/13 14:55 IEEE754以外の浮動小数点で動いている環境、いまどれくらい残ってるのかしら…ましてやそれに今プログラミングしないといけない人がどれほど…(苦笑
(koke)
05/13 15:10 仮数部5/6bitの浮動小数点数とか使い方難しすぎるだろう…(苦笑>R11G11B10Float
(siza)
05/13 15:20 R11G11B10Floatは演算方法自体はIEEE754そのもの(bit幅が違うだけ)ということでいいのかな…「演算方式はIEEE754だけどbit幅が違う」だけならx86とか80bitだから厳密にはIEEE754ではないけど、さっきのtweetでは考えていなかった :D
(seta)