【文件属性】:
文件名称:执行精确的浮点数运算-python cookbook(第3版)高清中文完整版
文件大小:4.84MB
文件格式:PDF
更新时间:2021-06-10 05:19:17
python cookbook 第3版 高清 中文完整版
3.2 执行精确的浮点数运算
问题
你需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现。
解决方案
浮点数的一个普遍问题是它们并不能精确的表示十进制数。 并且,即使是 简单的数学
运算也会产生小的误差,比如:
>>> a = 4.2
>>> b = 2.1
>>> a + b
6.300000000000001
>>> (a + b) == 6.3
False
>>>
这些错误是由底层CPU和IEEE 754标准通过自己的浮点单位去执行算术时的特征。 由于
Python的浮点数据类型使用底层表示存储数据,因此你没办法去避免这样的误差。
如果你想更加精确(并能容忍一定的性能损耗),你可以使用 decimal 模块:
>>> from decimal import Decimal
>>> a = Decimal('4.2')
>>> b = Decimal('2.1')
>>> a + b
Decimal('6.3')
>>> print(a + b)
6.3
>>> (a + b) == Decimal('6.3')
True
初看起来,上面的代码好像有点奇怪,比如我们用字符串来表示数字。 然而, Decimal
对象会像普通浮点数一样的工作(支持所有的常用数学运算)。 如果你打印它们或者在字符
串格式化函数中使用它们,看起来跟普通数字没什么两样。