执行精确的浮点数运算-python cookbook(第3版)高清中文完整版

时间:2021-06-10 05:19:17
【文件属性】:
文件名称:执行精确的浮点数运算-python cookbook(第3版)高清中文完整版
文件大小:4.84MB
文件格式:PDF
更新时间:2021-06-10 05:19:17
python cookbook 第3版 高清 中文完整版 3.2 执行精确的浮点数运算 问题 你需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现。 解决方案 浮点数的一个普遍问题是它们并不能精确的表示十进制数。 并且,即使是 简单的数学 运算也会产生小的误差,比如: >>> a = 4.2 >>> b = 2.1 >>> a + b 6.300000000000001 >>> (a + b) == 6.3 False >>> 这些错误是由底层CPU和IEEE 754标准通过自己的浮点单位去执行算术时的特征。 由于 Python的浮点数据类型使用底层表示存储数据,因此你没办法去避免这样的误差。 如果你想更加精确(并能容忍一定的性能损耗),你可以使用 decimal 模块: >>> from decimal import Decimal >>> a = Decimal('4.2') >>> b = Decimal('2.1') >>> a + b Decimal('6.3') >>> print(a + b) 6.3 >>> (a + b) == Decimal('6.3') True 初看起来,上面的代码好像有点奇怪,比如我们用字符串来表示数字。 然而, Decimal 对象会像普通浮点数一样的工作(支持所有的常用数学运算)。 如果你打印它们或者在字符 串格式化函数中使用它们,看起来跟普通数字没什么两样。

网友评论