Excel VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちら をご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


40906 / 76735 ←次へ | 前へ→

【40918】Re:EXCELとACCESSでの計算結果の違い??
発言  neptune  - 06/7/26(水) 10:31 -

引用なし
パスワード
   ▼どらちゃん さん:
>▼ichinose さん:
じゃないですが、
質問の最初に書いている数値
>0.25641025641・・・という答えです。
>0.26410270929337という答えです。
は本当ですか?
0.25641025641
  ↑5をどけるとその後5桁程度は同じなんですが?
0.26410270929337

既に書いてますが、Doubleの数字で計算すると小数点以下が多すぎて
1円程度の誤差は出ます。小数点以下有効な桁数を決めてやらないと
正確な計算は出来ません。

0 hits

【40883】EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/25(火) 17:58 質問
【40894】Re:EXCELとACCESSでの計算結果の違い?? ichinose 06/7/25(火) 20:05 発言
【40897】Re:EXCELとACCESSでの計算結果の違い?? neptune 06/7/25(火) 20:44 発言
【40915】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 9:27 質問
【40916】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 9:28 質問
【40918】Re:EXCELとACCESSでの計算結果の違い?? neptune 06/7/26(水) 10:31 発言
【40932】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 15:13 質問
【40936】Re:EXCELとACCESSでの計算結果の違い?? neptune 06/7/26(水) 15:53 回答
【40939】Re:EXCELとACCESSでの計算結果の違い?? わさび 06/7/26(水) 16:22 発言
【40950】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 18:13 お礼
【40951】Re:EXCELとACCESSでの計算結果の違い?? ichinose 06/7/26(水) 18:54 発言
【40953】Re:EXCELとACCESSでの計算結果の違い?? neptune 06/7/26(水) 19:00 回答
【40955】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 19:14 お礼
【41028】Re:EXCELとACCESSでの計算結果の違い?? ... ichinose 06/7/28(金) 0:10 発言

40906 / 76735 ←次へ | 前へ→
ページ:  ┃  記事番号:
2610219
(SS)C-BOARD v3.8 is Free