Excel VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちらをご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


	新規投稿 ┃ツリー表示 ┃一覧表示 ┃トピック表示 ┃検索 ┃設定 ┃過去ログ ┃ホーム

13180 / 76738

←次へ　｜　前へ→


	【69066】for next を倍精度で回す

チェリィ - 11/5/14(土) 0:44 -


	引用なし

	パスワード

Sub test()
Dim i As Double
For i = -10 To 10 Step 0.1
　　Debug.Print i
Next
End Sub
を実行すると
デバッグウインドウの-8.7から先が
-8.60000000000001
-8.50000000000001
-8.40000000000001
のように、0000000000001 が余計についてしまいます。
なぜこのようなことが起こるのでしょうか。
0.1は2進数にすると循環小数になるからでしょうか？
こういうトラブルはプロのシステムエンジニアさんには常識でしょうか？
こんなことでつまづいて1日を無駄にした私はSE失格でしょうか？

0 hits

▼

【69066】for next を倍精度で回す チェリィ 11/5/14(土) 0:44

≪