2008-01-21から1日間の記事一覧

とりあえず、内部計算は逆ポーランドで、浮動小数も読み込めるような 計算部分のみは出来た。 あー、明日は研修か…何やるんだろ?

…リークしてる…んだよね??

…「0byteのメモリリーク」も存在するんだ…。 ……どういう状況だ?(汗)

固定小数の精度とか

固定小数を使う時は精度が気になるとかいうことがあるようだけど、 実際どの位の精度なのかは以外と示されていないような気がしたので、調べてみる。 ……要するに、「2の-n乗」の表を書くだけなんですが…(汗) // 割り当てるbit数 : 表せる精度 1 : 0.5 2 : 0.…