| |
▼どらちゃん さん：
>そうなんですか。
>そもそも0.2/0.78の答えはひとつしかなくて、長さの長短はあっても、どうして数字がちがってしまうのかということもわかりませんが・・そういうものなのですね。。。
なぜ違ってしまうのかは私にもわかりません。本来同じになるはずなんですが？？
mdbのフィールドのデータ型も関係しているのかな？？
>それでは有効な桁数の決め方を教えてもらってもいいでしょうか？？
それは、どらちゃんさんが決めることです。
例えば、単価であれば、10.12銭などまでを有効とするとか、
比率であれば10.12パーセントまで有効とするとか、10.1234まで有効とするとか。
当然、社内、社外での取り決めに従って決めることになります。
決めたものは全ての計算において適用されなければつじつまが合わなくなります。
それと、パーセンテージの場合なら合わせて100%になるような計算の仕方を
しなければいけません。さもなければ結果に誤差を含みます。
昔、金額計算を伴うものを書いたときかなり慎重にやりました。検算しながら。
金額計算をするときはこれも先に書きましたが、通貨型を使用するのが安全です。
これならば、小数点以下第４位までは正確な数値が保証されていたと記憶してます。
（調べてね）
私にはこのように誰でも書ける事ことは書けますが、恐らくどらちゃんさんの
望むようなアドバイスは出来ないような気がします。m(_ _)m
|
|
neptune
- 06/7/26(水) 15:53 -
