Excel VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちら をご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


14917 / 76734 ←次へ | 前へ→

【67303】Re:単純な計算がうまくできません。
回答  ホグペン  - 10/11/22(月) 17:20 -

引用なし
パスワード
    コンピュータで小数を扱うとき、厳密には表せません。

 普通の10進法でたとえますと、1÷3 を小数で表すと 0.3333…… と無限に続きます。有限の小数で表さなくてはならないとすると、例えば 0.3333 とどこかで切らなくてはなりません。つまり近似的な値でしか扱えないわけです。
 ですから、このような制限の元で1÷3×3 という計算をすると、結果が 0.9999 と「あり得ない計算」になってしまいます。

 今回の問題は 0.9 という値を コンピュータの使っている2進数できちんと表せないところにあります。これは現在のコンピュータを使う限り避けられない問題で、「演算誤差」と呼ばれます。

 お金の関わる計算で小数を扱うときには、この演算誤差の問題を意識しておかなければなりません。

達人”芳坂和行氏に学ぶ、エクセル(Excel)「演算誤差」対策講座

というページがあり、参考になると思います。(URL を貼り付けようとしたところ、禁止語句とかではじかれてしまいました。上の言葉で検索をかければすぐ見つかると思います。)

1 hits

【67298】単純な計算がうまくできません。 八家九僧陀 10/11/21(日) 21:30 質問
【67299】Re:単純な計算がうまくできません。 kanabun 10/11/21(日) 21:34 発言
【67300】Re:単純な計算がうまくできません。 kanabun 10/11/22(月) 9:50 発言
【67301】Re:単純な計算がうまくできません。 kanabun 10/11/22(月) 10:15 発言
【67304】Re:単純な計算がうまくできません。 八家九僧陀 10/11/22(月) 19:18 お礼
【67303】Re:単純な計算がうまくできません。 ホグペン 10/11/22(月) 17:20 回答

14917 / 76734 ←次へ | 前へ→
ページ:  ┃  記事番号:
2610219
(SS)C-BOARD v3.8 is Free