python3的float数精度_Python3 - 执行精确的浮点数运算
問題
對浮點數執行精確的計算操作,并且不希望有任何小誤差的出現。
解決方案
浮點數的一個普遍問題是它們并不能精確的表示十進制數。并且,即使是最簡單的數學運算也會產生小的誤差。
a = 2.1
b = 4.2
c = a + b
print(c)
print(c == 6.3)
6.300000000000001
False
這些錯誤是由底層CPU和IEEE754標準通過自己的浮點單位去執行算術時的特征,由于Python的浮點數據類型使用底層表示數據存儲,因此你沒辦法避免這樣的誤差。
如果需要更加精確,并能容忍一定的性能損耗,可以使用 decimal 模塊:
from decimal import Decimal
a = Decimal('2.1')
b = Decimal('4.2')
c = a + b
print(c)
print(c == Decimal('6.3'))
6.3
True
Decimal 對象會像普通浮點數一樣,支持所有的常用數學運算。 打印或者進行字符串格式化時,跟普通浮點數沒有區別。
討論
decimal 模塊實現了IBM的“通用小數運算規范”。
Python新手會傾向于使用 decimal 模塊來處理浮點數的精確運算。 然而,先理解你的應用程序目的是非常重要的。 如果你是在做科學計算或工程領域的計算、電腦繪圖,或者是科學領域的大多數運算, 那么使用普通的浮點類型是比較普遍的做法。 其中一個原因是,在真實世界中很少會要求精確到普通浮點數能提供的17位精度。 因此,計算過程中的那么一點點的誤差是被允許的。 第二點就是,原生的浮點數計算要快的多-有時候你在執行大量運算的時候速度也是非常重要的。
即便如此,卻不能完全忽略誤差。數學家花了大量時間去研究各類算法,有些處理誤差會比其他方法更好。 也得注意下減法刪除以及大數和小數的加分運算所帶來的影響。比如:
nums = [1.23e+18, 1, -1.23e+18]
print(sum(nums))
0.0
上面的錯誤可以利用 math.fsum() 所提供的更精確計算能力來解決:
import math
nums = [1.23e+18, 1, -1.23e+18]
print(math.fsum(nums))
1.0
總的來說, decimal 模塊主要用在涉及到金融的領域。 在這類程序中,哪怕是一點小小的誤差在計算過程中蔓延都是不允許的。
當Python和數據庫打交道的時候,也通常會遇到 Decimal 對象,通常也是在處理金融數據的時候。
總結
以上是生活随笔為你收集整理的python3的float数精度_Python3 - 执行精确的浮点数运算的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 4个mos管驱动的全桥电路原理_最经典M
- 下一篇: 高铁为什么到了山东境内要减速