Excel VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちら をご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


40873 / 76735 ←次へ | 前へ→

【40951】Re:EXCELとACCESSでの計算結果の違い??
発言  ichinose  - 06/7/26(水) 18:54 -

引用なし
パスワード
   ▼どらちゃん さん:
こんばんは。

こういうことですか?

Sub test()
  Dim a As Double
  Dim b As Single
  a = 0.2
  b = a
  a = b
  MsgBox a
End Sub
これは、0.1でも起きますよ!!

小数ってね、10進数では表わされても2進数では循環してしまう数があるんです。


10進数の
0.1を2進数で表わそうとするとネ。。。

10進の小数第一位は、1/10ですが、
2進数は1/2つまり0.5以上ででないと小数第一位に1が立ちません。
これを計算すると

0.0001100110011・・・・・

延々続きます。

この数を倍精度から単精度に移行すると桁数が少ない分、最後は丸められてしまいます。
結果、微妙に大きくなったりします(逆に小さくもなると思います)。

微妙な誤差はこれが原因だと思います。

小数を扱うときは、要注意ですよ!!

0 hits

【40883】EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/25(火) 17:58 質問
【40894】Re:EXCELとACCESSでの計算結果の違い?? ichinose 06/7/25(火) 20:05 発言
【40897】Re:EXCELとACCESSでの計算結果の違い?? neptune 06/7/25(火) 20:44 発言
【40915】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 9:27 質問
【40916】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 9:28 質問
【40918】Re:EXCELとACCESSでの計算結果の違い?? neptune 06/7/26(水) 10:31 発言
【40932】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 15:13 質問
【40936】Re:EXCELとACCESSでの計算結果の違い?? neptune 06/7/26(水) 15:53 回答
【40939】Re:EXCELとACCESSでの計算結果の違い?? わさび 06/7/26(水) 16:22 発言
【40950】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 18:13 お礼
【40951】Re:EXCELとACCESSでの計算結果の違い?? ichinose 06/7/26(水) 18:54 発言
【40953】Re:EXCELとACCESSでの計算結果の違い?? neptune 06/7/26(水) 19:00 回答
【40955】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 19:14 お礼
【41028】Re:EXCELとACCESSでの計算結果の違い?? ... ichinose 06/7/28(金) 0:10 発言

40873 / 76735 ←次へ | 前へ→
ページ:  ┃  記事番号:
2610219
(SS)C-BOARD v3.8 is Free