时间戳

首页 > 解决方案 > Python decimal.Decimal - getcontext().prec 设置和输出中的小数位数

python - Python decimal.Decimal - getcontext().prec 设置和输出中的小数位数

问题描述

我想使用decimal.Decimal对转换后的数字字符串进行算术运算。无论转换后的数字字符串有多少小数，我都希望返回有两位小数。

在这种特殊情况下，为什么两位小数精度给我一个小数返回，为什么三位小数精度给我我想要的回报（2 个小数 -> 2.15）

from decimal import *
getcontext().prec = 2
a = Decimal(x.replace(',','.'))
b = Decimal(y.replace(',','.'))
print(a), print(b), print(a-b)
>>> 2.60 0.45 2.2

getcontext().prec = 3
a = Decimal(x.replace(',','.'))
b = Decimal(y.replace(',','.'))
print(a, b, a-b)
>>> 2.60 0.45 2.15

标签： pythonfloating-pointdecimalroundingprecision

解决方案

设置Decimal lib 将用于返回任何计算出的数字的数字精度，即 prec = 2 将返回 2 个数字（first=2，second=2）并且在 prec = 3 中将显示三个数字（first = getcontext().prec2 ，第二=1，第三=5）。

但是，这里有一个技巧。当您创建 a 和 b 变量时， Decimal 用作您提供给它的数字的位数的精度。您可以看到在您的 IDLE 中只调用 a 或 b。

推荐阅读