Excel VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちらをご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


	新規投稿 ┃ツリー表示 ┃一覧表示 ┃トピック表示 ┃検索 ┃設定 ┃過去ログ ┃ホーム

47601 / 76732

←次へ　｜　前へ→


	【34082】Re:バリアントでもオーバーフロー

やっちん - 06/1/26(木) 8:06 -


	引用なし

	パスワード

▼よっちゃんさん：
>どこがオーバーフローになるのか分かりました。
>しかし、なぜそのような現象になるのかエクセル自体が壊れているとしか
>考えれない現象です。現象を説明しますと。
壊れてませんよ(^^
右辺の式で一番大きい型で計算されているだけです。
2番の10000と10はIntegerで計算され
その結果Integerの範囲を超えオーバーフローするのです。
なので2番は金2の型に関係なくオーバーフローになります。
Long型を表す&を10000か10のどちらか一方にでも付けると
Long型で計算されるのでオーバーフローになりません。
ちなみに1E+15 * 10はDoubleで計算されているのでこれも
オーバーフローになりません。

0 hits

▼

【34060】バリアントでもオーバーフロー よっちゃん 06/1/25(水) 18:21