[pgsql-jp: 37157] 消費税計算で失敗しました。

AOKI KAZUYUKI aoki-kazuyuki @ nifty.com
2006年 6月 5日 (月) 22:59:10 JST


青木と申します。

消費税計算が合わないので、
原因をさがしておりました。

DROP TABLE test;
CREATE TABLE test (tax_rate real);
INSERT INTO test (tax_rate)values(0.05);
SELECT (1+tax_rate) FROM test;

上記の最後の答えは
    1.05000000074506
となってしまいます。

マニュアルの数値データ型としては
real4 バイト可変精度、不正確 6桁精度
となっております。

確かに6桁まではあっておりますが、、、

税込み -945,000円 を分解した時に
税別額を切り上げで計算させると
SELECT ceil(-945000/(1+tax_rate)) FROM test;
-899999
となってしまいました。

お金を扱うときは double precision でないとダメですね。

==========================
旅行産業の情報システム支援
mode-A (モード・エー)
            青木一之
http://mode-a.com
==========================



pgsql-jp メーリングリストの案内