Access VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちら をご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


279 / 2272 ツリー ←次へ | 前へ→

【12288】端数の処理 katoki 13/2/19(火) 12:52 質問[未読]
【12289】Re:端数の処理 かるびの 13/2/20(水) 1:35 回答[未読]

【12288】端数の処理
質問  katoki  - 13/2/19(火) 12:52 -

引用なし
パスワード
   アクセスのクエリやVBAで以下を計算すると
int(19.33*100)/100=19.32
になります。なぜ19.33にならないのでしょうか。

【12289】Re:端数の処理
回答  かるびの  - 13/2/20(水) 1:35 -

引用なし
パスワード
    コンピュータ内部の計算ロジックが10進法でないことに起因するからだと
本に書いてありました。
 特に小数を含む数値を計算すると、そのような誤差が出てくるようです。

 データ型を通貨型にしておくと、そのような誤差の発生をより少なくできるようです。

279 / 2272 ツリー ←次へ | 前へ→
ページ:  ┃  記事番号:
1078190
(SS)C-BOARD v3.8 is Free