10/01 14:44 まあ大抵は「IEEE754浮動小数内部表現の1.05を1.08にバイナリパッチ」すればいいんじゃね(ぉぃ
10/01 15:45 (
@shinsan68k)
@gorry5 通貨型は64bit固定少数だったはずです。VB. NETはなくなってますが。10進scaleなのでそれによる誤差が出ないなら大丈夫です。Javaで数値計算で最も使われるBigDecimalとか浮動少数ですし。
(daba)
10/01 14:56 @gorry5 VBでも通貨型あるからあんまりないんじゃないかなぁ。ただ、計算結果が違うって客には何度も言われた。お客さんはExcelで試算出すので、doubleで計算しないとずれるw
(zane)
10/01 15:45 @gorry5 通貨型は64bit固定少数だったはずです。VB. NETはなくなってますが。10進scaleなのでそれによる誤差が出ないなら大丈夫です。Javaで数値計算で最も使われるBigDecimalとか浮動少数ですし。
(daba)