python中输入小数_python执行精确的小数计算方法

在进行浮点数计算时它们无法精确表达出所有的十进制小数位。

a = 4.1

b = 5.329

print(a+b)

9.428999999999998

这些误差实际上是底层CPU的浮点运算单元和IEEE754浮点数算数标准的一种“特性”。python的浮点数类型保存的数据采用的是原始表示形式,因此使用float实例时就不能避免这样的误差。

我们可以使用decimal模块避免这种操作(如果不介意牺牲下性能):

from decimal import Decimal

a = Decimal(4.1)

b = Decimal(5.329)

print(a+b)

9.429

注意Decimal的参数必须是字符串,不能是浮点型,否则误差依旧存在。

decimal模块的主要功能是允许控制计算过程中的各个方面,包括数字的尾数和四舍五入。

from decimal import Decimal

from decimal import localcontext

a = Decimal(4.1)

b = Decimal(5.329)

print(a/b)

print(================)

with localcontext() as ctx:

ctx.prec = 3

print(a/b)

0.7693751172827922400071261708

===========

经验分享 程序员 微信小程序 职场和发展