[pgsql-jp: 37164] Re: 消費税計算で失敗しました。

Koichi Hyodo sio-0 @ rh.to
2006年 6月 6日 (火) 09:57:12 JST


兵藤です

> double precision でも、100兆〜銭の位まで使えるならほぼ実用的か。


そういうどんぶり勘定を示すのはどうかなと思いますが…。

浮動小数点型は、10進小数ではなく2進小数ですから
10進数と変換する毎に最下位桁に割り切れない誤差ができます。

加算のとき場合によっては有効精度を保てないこともあるでしょう。
doubleで十分と保証できない限りnumericを使うべきです。
予測と実績が違うことはしばしばありますし
欲張るとロクなことはありません (^^;



> あるいは1000倍して、銭の下で1000分の1円の厘単位のintegerで計算するか。

integerだと今度は桁数が足らないことがあるかも。






pgsql-jp メーリングリストの案内