Excel VBA質問箱 IV

当質問箱は、有志のボランティア精神のおかげで成り立っています。
問題が解決したら、必ずお礼をしましょうね。
本サイトの基本方針をまとめました。こちら をご一読ください。

投稿種別の選択が必要です。ご注意ください。
迷惑投稿防止のため、URLの入力を制限しています。ご了承ください。


40798 / 76735 ←次へ | 前へ→

【41028】Re:EXCELとACCESSでの計算結果の違い?? 再送
発言  ichinose  - 06/7/28(金) 0:10 -

引用なし
パスワード
   こんばんは。

10進数の小数を2進数に変換するコードです。
今朝、簡単だろうと思って投稿したら大きいバグがあったので
再送です。


標準モジュールに

'====================================================================
Sub main()
  Dim idx As Long
  With ActiveSheet
    .Range("a1:b1").Value = Array("10進数", "2進数")
    For idx = 1 To 99
     .Cells(idx + 1, 1).Value = "'0." & Format(idx, "00")
     .Cells(idx + 1, 2).Value = "'" & cnvbin_for_frac(.Cells(idx + 1, 1).Value, 20)
     Next
    End With
End Sub
'=========================================================================
Function cnvbin_for_frac(myvalue As Variant, Optional keta As Long = 5) As String
'10進数の小数を2進数に変換する
' input ---myvalue 1>myvalue>=0の小数に限る
'     keta------変換桁数 省略時は、5桁
'Out-------cnvbin_for_frac 二進数に変換した小数 文字列です
  Dim sval As String
  Dim lval As Long
  Dim dem As Long
  Dim flen As Long
  sval = Trim(Split(CStr(myvalue), ".")(1))
  lval = CLng(Split(CStr(myvalue), ".")(1))
  flen = Len(sval)
  For dem = 1 To keta
   lval = lval * 2
   If lval >= 10 ^ flen Then
     cnvbin_for_frac = cnvbin_for_frac & "1"
     lval = lval - 10 ^ (flen)
   Else
     cnvbin_for_frac = cnvbin_for_frac & "0"
     End If
   If lval = 0 Then Exit For
   Next
  cnvbin_for_frac = "0." & cnvbin_for_frac
End Function


小数の誤差を探るときの参考にして下さい。

0 hits

【40883】EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/25(火) 17:58 質問
【40894】Re:EXCELとACCESSでの計算結果の違い?? ichinose 06/7/25(火) 20:05 発言
【40897】Re:EXCELとACCESSでの計算結果の違い?? neptune 06/7/25(火) 20:44 発言
【40915】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 9:27 質問
【40916】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 9:28 質問
【40918】Re:EXCELとACCESSでの計算結果の違い?? neptune 06/7/26(水) 10:31 発言
【40932】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 15:13 質問
【40936】Re:EXCELとACCESSでの計算結果の違い?? neptune 06/7/26(水) 15:53 回答
【40939】Re:EXCELとACCESSでの計算結果の違い?? わさび 06/7/26(水) 16:22 発言
【40950】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 18:13 お礼
【40951】Re:EXCELとACCESSでの計算結果の違い?? ichinose 06/7/26(水) 18:54 発言
【40953】Re:EXCELとACCESSでの計算結果の違い?? neptune 06/7/26(水) 19:00 回答
【40955】Re:EXCELとACCESSでの計算結果の違い?? どらちゃん 06/7/26(水) 19:14 お礼
【41028】Re:EXCELとACCESSでの計算結果の違い?? ... ichinose 06/7/28(金) 0:10 発言

40798 / 76735 ←次へ | 前へ→
ページ:  ┃  記事番号:
2610219
(SS)C-BOARD v3.8 is Free