Excel VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちらをご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


	新規投稿 ┃ツリー表示 ┃一覧表示 ┃トピック表示 ┃検索 ┃設定 ┃過去ログ ┃ホーム

40873 / 76735

←次へ　｜　前へ→


	【40951】Re:EXCELとACCESSでの計算結果の違い？？

ichinose - 06/7/26(水) 18:54 -


	引用なし

	パスワード

▼どらちゃんさん：
こんばんは。

こういうことですか？

Sub test()
　　Dim a As Double
　　Dim b As Single
　　a = 0.2
　　b = a
　　a = b
　　MsgBox a
End Sub
これは、0.1でも起きますよ！！

小数ってね、10進数では表わされても2進数では循環してしまう数があるんです。

10進数の
0.1を2進数で表わそうとするとネ。。。

10進の小数第一位は、1/10ですが、
2進数は1/2つまり0.5以上ででないと小数第一位に1が立ちません。
これを計算すると

0.0001100110011・・・・・

延々続きます。

この数を倍精度から単精度に移行すると桁数が少ない分、最後は丸められてしまいます。
結果、微妙に大きくなったりします（逆に小さくもなると思います）。

微妙な誤差はこれが原因だと思います。

小数を扱うときは、要注意ですよ！！

0 hits

▼

【40883】EXCELとACCESSでの計算結果の違い？？ どらちゃん 06/7/25(火) 17:58