たっけんの気まぐれ撫子日記 このページをアンテナに追加 RSSフィード

2008年05月03日 土曜日10進数→16進数変換(小数部)

10進数→16進数の小数部の計算をするプログラムを作りました。

試しに「0.857」と入れてみると・・・「0.DB645A1CAC0830C…」という結果!

しかし、自分で計算してみると、「0.DB645A1CAC08312…」に・・・

あれ?何か最後の方が違うなぁ・・・

誰か、理由を教えてください><


※※※み木デザイナ:ここから※
※ 以下はデザインデータです。
※ コメントを削除しないようにしてください。
※ ---
※母艦とはフォーム##生成
母艦は「メインフォームのクライアントW=640#数値
のクライアントH=400#数値
のタイトル=「なでしこ」#文字列
※ ---
値0とはエディタ##生成
のX=0#数値
のY=0#数値
のW=64#数値
のH=32#数値
のテキスト=「」#文字列
※ ---
ボタン1とはボタン##生成
のX=64#数値
のY=0#数値
のW=64#数値
のH=32#数値
のテキスト=「計算開始」#文字列
のクリックした時は~ボタン1__クリックした時#イベント
※ ---
値1とはエディタ##生成
のX=128#数値
のY=0#数値
のW=64#数値
のH=32#数値
のテキスト=「0」#文字列
※ ---
値2とはエディタ##生成
のX=192#数値
のY=0#数値
のW=64#数値
のH=32#数値
のテキスト=「0」#文字列
※ ---
値3とはエディタ##生成
のX=256#数値
のY=0#数値
のW=64#数値
のH=32#数値
のテキスト=「0」#文字列
※ ---
結果とはメモ##生成
のX=0#数値
のY=32#数値
のW=640#数値
のH=368#数値
のテキスト=「0.」#文字列
のスクロール=「」#文字列
※ ---
ボタン2とはボタン##生成
のX=320#数値
のY=0#数値
のW=64#数値
のH=32#数値
のテキスト=「計算終了」#文字列
のクリックした時は~ボタン2__クリックした時#イベント
※※※み木デザイナ:ここまで※

値4=1
カウント=0

●ボタン1__クリックした時
  # ここにイベントを書きます。
  値4=1
  値3=値0
  値4が1以上
   値1=値3*16
   値1の整数部分を値2に代入
   値3=値1-値2
   値2の「10」を「A」に置換して値2に代入
   値2の「11」を「B」に置換して値2に代入
   値2の「12」を「C」に置換して値2に代入
   値2の「13」を「D」に置換して値2に代入
   値2の「14」を「E」に置換して値2に代入
   値2の「15」を「F」に置換して値2に代入
   結果=「{結果}{値2}」
   カウント=カウント+1
   もしカウント=50ならば
    結果=「{結果}{改行}」
    カウント=0
   0.1秒待つ
  # 字下げした部分がイベント範囲です。

●ボタン2__クリックした時
  # ここにイベントを書きます。
  値4=0
  # 字下げした部分がイベント範囲です。

トラックバック - http://nadesiko.g.hatena.ne.jp/takken123/20080503