[pgsql-jp: 37157] 消費税計算で失敗しました。
AOKI KAZUYUKI
aoki-kazuyuki @ nifty.com
2006年 6月 5日 (月) 22:59:10 JST
青木と申します。
消費税計算が合わないので、
原因をさがしておりました。
DROP TABLE test;
CREATE TABLE test (tax_rate real);
INSERT INTO test (tax_rate)values(0.05);
SELECT (1+tax_rate) FROM test;
上記の最後の答えは
1.05000000074506
となってしまいます。
マニュアルの数値データ型としては
real4 バイト可変精度、不正確 6桁精度
となっております。
確かに6桁まではあっておりますが、、、
税込み -945,000円 を分解した時に
税別額を切り上げで計算させると
SELECT ceil(-945000/(1+tax_rate)) FROM test;
-899999
となってしまいました。
お金を扱うときは double precision でないとダメですね。
==========================
旅行産業の情報システム支援
mode-A (モード・エー)
青木一之
http://mode-a.com
==========================
pgsql-jp メーリングリストの案内