双减法精度问题

双减法精度问题,第1张

减法精度问题

double
在内部以分数形式存储在 二进制文件中 -例如
1/4 + 1/8 + 1/16 + ...

0.005
-或值
1.435
-不能以精确的分数形式存储在二进制中,因此
double
不能存储精确的值
0.005
,并且相减后的值也不太精确。

如果您关心精确的十进制算术,请使用

BigDecimal

您可能还会发现本文很有用。



欢迎分享,转载请注明来源:内存溢出

原文地址: https://www.outofmemory.cn/zaji/5600668.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-15
下一篇 2022-12-15

发表评论

登录后才能评论

评论列表(0条)

保存