执行精确的浮点数运算-华为云大数据中台架构分享

【文件属性】：
文件名称：执行精确的浮点数运算-华为云大数据中台架构分享
文件大小：5.68MB
文件格式：PDF
更新时间：2021-06-11 11:13:40
Python cookbook 中文 参考 3.2 执行精确的浮点数运算 问题 你需要对浮点数执行精确的计算操作，并且不希望有任何小误差的出现。 解决方案 浮点数的一个普遍问题是它们并不能精确的表示十进制数。 并且，即使是最简 单的数学运算也会产生小的误差，比如：