2008-11-24から1日間の記事一覧
ところで、前回のGauss-Legendre法でBigDecimal版sqrtを使いました。で、この中の処理である程度の精度までをdoubleで求めてるのですが、これの効果がどれだけあるか確認しました。 まず、doubleを使ったsqrtで100桁までの円周率を100回求めると、処理時間は…
ところで、前回のGauss-Legendre法でBigDecimal版sqrtを使いました。で、この中の処理である程度の精度までをdoubleで求めてるのですが、これの効果がどれだけあるか確認しました。 まず、doubleを使ったsqrtで100桁までの円周率を100回求めると、処理時間は…