Excel VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちらをご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


	新規投稿 ┃ツリー表示 ┃一覧表示 ┃トピック表示 ┃検索 ┃設定 ┃過去ログ ┃ホーム

40889 / 76732

←次へ　｜　前へ→


	【40932】Re:EXCELとACCESSでの計算結果の違い？？

どらちゃん - 06/7/26(水) 15:13 -


	引用なし

	パスワード

▼neptune さん：

>質問の最初に書いている数値
>>0.25641025641・・・という答えです。
>>0.26410270929337という答えです。
>は本当ですか？
>0.25641025641
>　 ↑5をどけるとその後5桁程度は同じなんですが？
>0.26410270929337

すみません
今確認したら
0.256410270929337
でした。。

>
>既に書いてますが、Doubleの数字で計算すると小数点以下が多すぎて
>１円程度の誤差は出ます。小数点以下有効な桁数を決めてやらないと
>正確な計算は出来ません。

そうなんですか。
そもそも0.2/0.78の答えはひとつしかなくて、長さの長短はあっても、どうして数字がちがってしまうのかということもわかりませんが・・そういうものなのですね。。。
それでは有効な桁数の決め方を教えてもらってもいいでしょうか？？

素人で申し訳ありません。

1 hits

▼

【40883】EXCELとACCESSでの計算結果の違い？？ どらちゃん 06/7/25(火) 17:58