Excel VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちらをご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


	新規投稿 ┃ツリー表示 ┃一覧表示 ┃トピック表示 ┃検索 ┃設定 ┃過去ログ ┃ホーム

14921 / 76738

←次へ　｜　前へ→


	【67303】Re:単純な計算がうまくできません。

ホグペン - 10/11/22(月) 17:20 -


	引用なし

	パスワード

　コンピュータで小数を扱うとき、厳密には表せません。

　普通の１０進法でたとえますと、１÷３を小数で表すと 0.3333…… と無限に続きます。有限の小数で表さなくてはならないとすると、例えば 0.3333 とどこかで切らなくてはなりません。つまり近似的な値でしか扱えないわけです。
　ですから、このような制限の元で１÷３×３という計算をすると、結果が 0.9999 と「あり得ない計算」になってしまいます。

　今回の問題は０.９という値をコンピュータの使っている２進数できちんと表せないところにあります。これは現在のコンピュータを使う限り避けられない問題で、「演算誤差」と呼ばれます。

　お金の関わる計算で小数を扱うときには、この演算誤差の問題を意識しておかなければなりません。

達人”芳坂和行氏に学ぶ、エクセル(Excel)「演算誤差」対策講座

というページがあり、参考になると思います。（URL を貼り付けようとしたところ、禁止語句とかではじかれてしまいました。上の言葉で検索をかければすぐ見つかると思います。）

1 hits

▼

【67298】単純な計算がうまくできません。 八家九僧陀 10/11/21(日) 21:30