Excel VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちら をご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


35409 / 76732 ←次へ | 前へ→

【46522】Re:Do loop から抜け出せません
発言  ichinose  - 07/2/5(月) 22:45 -

引用なし
パスワード
   ▼初心者男 さん:
こんばんは。

>VBAはEXCELのワークシートに入力する感覚でやると痛い目にあいそうですね。
いいえ、ワークシートだって小数は、要注意ですよ!!
補正をしているようなので0.05の62回の足し算では誤差がでませんが・・・。
そのメカニズムは、私にはわかりません。

有名な事例は、

適当なセルに

=0.5-0.4-0.1 と入力すれば、0になりますが、

=(0.5-0.4-0.1) と()を付けると -2.77556E-17となり、0にはならない。


又、
適当なセルに

=34.8-32.2 と入力し、
セル確定する前(Enterキーを押す前に)にF.9キーを押してください。

数式バーには、2.59999999999999 と表示されますよね?

補正をしているのでVBAのDoubleと同じように誤差はでませんが、
それでも上記のように誤差は出ています。

ですから、シートでも小数は要注意なんですよ!!

2 hits

【46479】Do loop から抜け出せません 初心者男 07/2/4(日) 23:08 質問
【46481】Re:Do loop から抜け出せません ichinose 07/2/5(月) 8:04 発言
【46521】Re:Do loop から抜け出せません 初心者男 07/2/5(月) 22:02 お礼
【46522】Re:Do loop から抜け出せません ichinose 07/2/5(月) 22:45 発言
【46531】Re:Do loop から抜け出せません 初心者男 07/2/6(火) 0:36 お礼

35409 / 76732 ←次へ | 前へ→
ページ:  ┃  記事番号:
2610219
(SS)C-BOARD v3.8 is Free