2012年8月7日火曜日

rubyの小数点計算

小数点の計算と小数点以下N桁の表示にハマったのでメモしておきます。
roundは引数が持てるんですね。

1.9.3p194 :001 > 1/3
 => 0
1.9.3p194 :002 > 1/3.to_f
 => 0.3333333333333333
1.9.3p194 :003 > (1/3.to_f).round
 => 0
1.9.3p194 :004 > (1/3.to_f).round(2)
 => 0.33
1.9.3p194 :005 > 1/4
 => 0
1.9.3p194 :006 > 1.to_f/4
 => 0.25
1.9.3p194 :007 > (1.to_f/4).round
 => 0
1.9.3p194 :008 > (1.to_f/4).round(1)
 => 0.3
1.9.3p194 :009 > (1.to_f/4).round(2)
 => 0.25

0 件のコメント:

コメントを投稿

注: コメントを投稿できるのは、このブログのメンバーだけです。