Excel VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちらをご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


	新規投稿 ┃ツリー表示 ┃一覧表示 ┃トピック表示 ┃検索 ┃設定 ┃過去ログ ┃ホーム

844 / 76735

←次へ　｜　前へ→


	【81553】Re:計算の誤差

OK - 20/11/30(月) 17:36 -


	引用なし

	パスワード

四則演算の順序を少し無視して計算を分解、通分
したら↓のようになります。

6/9*33
↓
(2×3)÷(3×3)×(3×11)
2÷3×(3×11)
↓
2×11×3(分子)
-----
3(分母)
↓
2×11
↓
22

エクセル内部の計算は詳しいサイトを見てください。※私は分かりません。

エクセルの浮動小数点数演算誤差と四則計算の順番によるのかな？
詳しくないので説明できません＆自信ありません。

1 hits

▼

【81546】計算の誤差 大福 20/11/24(火) 12:26