| |
こんばんは
excel 誤差 とかでWEB検索すれば色々出てきます。
少数の演算誤差の影響についての対策も色々見つかります。
▼へっぽこ さん：
>数値の比較(IF文)で困っています。
>基本的なことだと思うのですが、ご教示ください。
>
>セルＢ３には 1029.505
>セルＢ４には 1029505 が入力されています。
>
>Sub Sample()
>
> If (Range("B3").Value * 1000) = Range("B4").Value Then
> Range("B5") = "OK" ' 処理(1)
> Else
> Range("B5") = "NG" ' 処理(2)
> End If
>
>End Sub
>
>この状態で、上記のマクロを実行すると、処理(2)が実行されて
>セルＢ５には NG が表示されます。
>1029.505 x 1000 = 1029505 だからセルＢ４とは一致して、
>処理(1)が実行され、セルＢ５には OK が表示されると思っていました。
>
>なぜか、
>セルＢ３：1019.505、セルＢ４：1019505 や
>セルＢ３：1029.405、セルＢ４：1029405 に
>修正すると、セルＢ５に OK が表示されます。
>
>何が間違っているのでしょうか？
|
|
ウッシ
- 13/8/27(火) 23:57 -
