Excel VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちら をご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


47601 / 76732 ←次へ | 前へ→

【34082】Re:バリアントでもオーバーフロー
回答  やっちん  - 06/1/26(木) 8:06 -

引用なし
パスワード
   ▼よっちゃん さん:
>どこがオーバーフローになるのか分かりました。
>しかし、なぜそのような現象になるのかエクセル自体が壊れているとしか
>考えれない現象です。現象を説明しますと。
壊れてませんよ(^^
右辺の式で一番大きい型で計算されているだけです。
2番の10000と10はIntegerで計算され
その結果Integerの範囲を超えオーバーフローするのです。
なので2番は金2の型に関係なくオーバーフローになります。
Long型を表す&を10000か10のどちらか一方にでも付けると
Long型で計算されるのでオーバーフローになりません。
ちなみに1E+15 * 10はDoubleで計算されているのでこれも
オーバーフローになりません。

0 hits

【34060】バリアントでもオーバーフロー よっちゃん 06/1/25(水) 18:21 質問
【34064】Re:バリアントでもオーバーフロー inoue 06/1/25(水) 18:44 発言
【34078】Re:バリアントでもオーバーフロー よっちゃん 06/1/26(木) 4:07 質問
【34080】Re:バリアントでもオーバーフロー ichinose 06/1/26(木) 7:56 発言
【34082】Re:バリアントでもオーバーフロー やっちん 06/1/26(木) 8:06 回答
【34084】Re:バリアントでもオーバーフロー よっちゃん 06/1/26(木) 9:33 質問
【34089】Re:バリアントでもオーバーフロー やっちん 06/1/26(木) 10:50 発言
【34125】Re:バリアントでもオーバーフロー よっちゃん 06/1/27(金) 8:35 お礼

47601 / 76732 ←次へ | 前へ→
ページ:  ┃  記事番号:
2610219
(SS)C-BOARD v3.8 is Free