2010年7月4日日曜日

浮動小数の精度

友人ととあるゲームのフォーマットの話をしていた。
そのゲームでは小数点以下4~6程度の桁数の小数読み込むのだが、
内部処理は単精度実数であるとの話。
というわけでなんか浮動小数の精度が気になってfloat.hから値をとってみた。


DBL_MAX : 1.79769e+308
FLT_MAX : 3.40282e+038
DBL_MIN : 2.22507e-308
FLT_MIN : 1.17549e-038
DBL_EPSILON : 2.22045e-016
FLT_EPSILON : 1.19209e-007
結構単精度実数のマシンイプシロンって大きい気がするなぁ。
マシンイプシロンとか情報落ちとか桁落ちとか、
数値計算する上の常識を失念、プログラミングから離れすぎてるなぁ。

0 件のコメント:

コメントを投稿