auの日記

プログラミング初心者の日記。(auはハンドルネームです)

Python Decimal

auです。

正確な平方根の値を求める方法を調べてみました。

mathやnumpyにも平方根を求める関数(sqrt)があるのですが、精度はそれほど高くないようです。

from Decimal import Decimal
Decimal(str(x)) ** Decimal('0.5')

Decimalを使うことでより正確な値を出すことができるようです。

渡す値は文字列にする方が、floatよりも精度が高いそうです。奥が深すぎる・・・。